Ученые обнаружили, что искусственный интеллект способен обманывать

Ученые Массачусетского технологического института обнаружили многочисленные случаи, когда системы искусственного интеллекта обманывают людей. Соответствующее исследование было опубликовано в научном журнале Patterns, сообщает The Guardian.

Исследователи установили, что системы ИИ способны обманывать оппонентов, блефовать и притворяться людьми.

«По мере того как обманчивые возможности систем искусственного интеллекта становятся все более совершенными, опасность, которую они представляют для общества, будет становиться все более серьезной», – отметил соавтор исследования Питер Парк.

Толчком к началу анализа стала программа Cicero от компании Meta. Она вошла в 10% лучших игроков в стратегической игре «Дипломатия», посвященной завоеванию мира. Тогда Meta заявила, что Cicero научили быть «в общем-то честным и полезным» и «никогда намеренно не подставлять» своих союзников-людей.

По словам Парка, именно это заявление вызвало подозрения, ведь коварство – одна из важных составляющих игры.

Исследователи проанализировали общедоступные данные и обнаружили многочисленные случаи, когда программа Cicero намеренно лгала и вступала в заговоры, чтобы втянуть туда других игроков. В одном случае ИИ оправдывал свое отсутствие в игре из-за перезагрузки тем, что разговаривает по телефону со своей девушкой.

«Мы обнаружили, что искусственный интеллект Meta научился быть мастером обмана», - подчеркнул Питер Парк.

Команда ученых нашла схожие проблемы с другими ИИ. В частности, программа для игры в техасский холдем (вариация покера) блефировала против профессиональных игроков-людей. А система для экономических переговоров врала о своих преимуществах, чтобы одержать верх.

В одном исследовании системы ИИ в цифровом симуляторе вообще «притворялись мертвыми». Делали они это для того, чтобы обмануть тест, созданный для устранения эволюционирующих систем до быстрого копирования. После тестирования ИИ восстанавливали свою активность.

«Это вызывает большую обеспокоенность. То, что система искусственного интеллекта считается безопасной в тестовой среде, не означает, что она безопасна в реальных условиях. Она может просто притворяться безопасной в тесте», – заметил Парк.

Исследователи призывают правительства стран разработать законы о безопасности искусственного интеллекта, учитывающие потенциальную возможность обмана со стороны систем.

Ранее стало известно, что нидерландские ученые создали искусственный интеллект, способный распознать сарказм.

Подписывайтесь на наш Тelegram-канал t.me/sudua и на Google Новости SUD.UA, а также на наш VIBER, страницу в Facebook и в Instagram, чтобы быть в курсе самых важных событий.