Скажи, ты друг мне или нет? Как снизить риски при совместной работе человека и робота с ИИ
Высокий уровень безопасности на производстве является одним из важнейших показателей его успешности. Бесспорно, это зона ответственности человека. Но что, если рядом с ним функционирует робот, действующий на основе искусственного интеллекта? Насколько эффективным будет это соседство? А главное – насколько действительно безопасным?
Снизить риски «побочек» реально?
По результатам исследования компании Universal Robots, проведённого в 2024 году, совместная работа человека и робота в производственном процессе на 85% эффективнее автономного выполнения заданий, а также помогает сократить травматизм на предприятии на 72%. Такие показатели безопасного сотрудничества человека и робота в едином рабочем пространстве возможны при использовании коллаборативных роботов (коботов). В отличие от промышленных роботов, которые запрограммированы на выполнение определённых операций без учёта работающих рядом с ними людей, коботы оснащены датчиками, контролирующими положение человека и не допускающими причинение ему вреда. Они используют системы видеоаналитики на основе искусственного интеллекта, которые автоматически анализируют видеопотоки, выявляют аномалии и принимают меры, чтобы предотвратить возможные нештатные ситуации.
Проблема возможного небезопасного взаимодействия человека и робота давно волнует учёных по всему миру. Активно занимаются изучением вопроса и в России. В частности, в Донском государственном техническом университете (ДГТУ). Там уже придумали несколько способов снижения рисков неприятных «побочек» трудовых отношений человека и машины с ИИ. На кафедре «Кибербезопасность информационных систем» факультета «Информатика и вычислительная техника» ДГТУ, в частности, разрабатываются инновационные методы распознавания действий человека с использованием генеративно-состязательных моделей искусственного интеллекта (GAN). Об этом рассказала старший преподаватель кафедры Марина Жданова.
По словам Ждановой, проект реализуется в рамках гранта Российского научного фонда. Его цель — создание безопасной и эффективной среды для сотрудничества человека и робота. А использование при этом искусственного интеллекта, как отметила научный сотрудник, позволяет достичь высокой точности распознавания тех или иных манипуляций и быстро реагировать на непредвиденные ситуации.
— Наш проект фокусируется на создании систем, способных предотвращать несчастные случаи, анализирующих действия человека в режиме реального времени. Проект предусматривает автоматизацию производственного процесса и обеспечение возможности коллаборации человека и робота в одном рабочем пространстве, с особым акцентом на безопасность оператора, — отметила эксперт.
Несчастные случаи исключены?
Система работает на основе беспроводного интерфейса управления. Робот выполняет работу или моделирует свои действия, ориентируясь на подаваемые человеком-оператором команды, с помощью жестов и результатов их распознавания. Данный подход значительно снижает риск механических повреждений при взаимодействии человека и робота. Набор визуальных сенсоров отслеживает действия оператора и контексты взаимодействия для принятия решений в случае возникновения нештатных ситуаций.
— Человек управляет роботом интуитивно, с помощью жестов, что повышает эффективность и безопасность работы. Система использует компьютерное зрение и GAN для распознавания действий оператора, включая потенциально опасные ситуации, такие как падение, выход за пределы безопасной зоны или появление посторонних лиц. При обнаружении угрозы для человека она мгновенно реагирует, предотвращая несчастные случаи, — подчеркнула Марина Жданова.
Использование отдельных сенсоров, таких как RGB-камеры или датчиков глубины (устройства, которые снимают видео, в каждом пикселе которого хранится не цвет, а расстояние до объекта в этой точке), имеет свои ограничения. Например, снизить качество распознавания изображений с камеры видимого спектра может нестабильное освещение и шумы на картинках. С другой стороны, карты глубины могут страдать от потерь в данных, что делает их недостаточно надёжными для полной оценки ситуации. Научный сотрудник ДГТУ рассказала, что учёные нашли выход и из этой ситуации, объединив данные видимого спектра и карт глубины, что позволило компенсировать недостатки отдельных сенсоров.
— Следующей ключевой задачей в реализации проекта является представление различных действий человека в виде числовых векторов или дескрипторов. Они позволят более эффективно характеризовать определённые жесты или позы человека и соответственно влиять на качество дальнейшего анализа и распознавания его действий, — поделилась планами учёных Марина Жданова.
И это ещё не всё
В настоящее время в научных кругах также обсуждается вопрос опасности, возникающей при использовании коллаборативных роботов. Специалисты в этой области предупреждают, что закладывая коботам функции самостоятельного принятия решений, человек должен предусмотреть всевозможные риски. Например, профессор кафедры 704 «Информационно-управляющие комплексы летательных аппаратов» МАИ, кандидат технических наук Николай Ким считает, что необходимо законодательно регулировать степень применения искусственного интеллекта.
— Сейчас такие стандарты уже введены в коллаборативной робототехнике: например, на недопустимость соприкосновения с человеком с определёнными скоростями. Однако подобные меры не могут полностью исключить риски с развитием искусственного интеллекта, особенно в отношении отдельных компаний или разработчиков. Трудно абсолютно всех игроков заставить делать то, что договорились делать во всём мире: не повышать уровень интеллекта до слишком высокого уровня, — считает эксперт.
Бесспорно, взаимодействие человека и робота в едином рабочем пространстве должно быть безопасным. Замечательно, что оно может происходить даже интуитивно, с помощью жестов, но гораздо важнее, чтобы этот процесс был регламентирован законодательно. Получается, только в таком случае человек будет застрахован от «восстания машин».
Материал подготовлен при поддержке Минобрнауки России
