Вчені з’ясували, що штучний інтелект здатен до обману

Вчені Массачусетського технологічного інституту виявили численні випадки, коли системи штучного інтелекту обманюють людей. Відповідне дослідження опубліковане в науковому журналі Patterns, повідомляє The Guardian.

Дослідники встановили, що системи ШІ здатні обманювати опонентів, блефувати та прикидатися людьми.

«У міру того, як оманливі можливості систем штучного інтелекту стають все більш досконалими, небезпека, яку вони становлять для суспільства, буде ставати все більш серйозною», – зазначив співавтор дослідження Пітер Парк.

Поштовхом до початку аналізу стала програма Cicero від компанії Meta. Вона увійшла до 10% найкращих гравців у стратегічній грі «Дипломатія», присвяченій завоюванню світу. Тоді Meta заявила, що Cicero навчили бути «загалом чесним і корисним» і «ніколи навмисно не підставляти» своїх союзників-людей.

За словами Парка, саме ця заява викликала підозри, адже підступність – одна з важливих складових гри.

Дослідники проаналізували загальнодоступні дані й виявили численні випадки, коли програма Cicero навмисно брехала та вступала у змови, щоб втягнути туди інших гравців. В одному випадку ШІ виправдовував свою відсутність у грі через перезавантаження тим, що розмовляє телефоном зі своєю дівчиною.

«Ми виявили, що штучний інтелект Meta навчився бути майстром обману», – наголосив Пітер Парк.

Команда вчених знайшла схожі проблеми й з іншими ШІ. Зокрема, програма для гри в техаський холдем (варіація покеру) блефувала проти професійних гравців-людей. А система для економічних переговорів брехала про свої переваги, щоб отримати верх.

В одному дослідженні системи ШІ в цифровому симуляторі взагалі «прикидалися мертвими». Робили вони це для того, щоб обдурити тест, створений для усунення систем, які еволюціонували до швидкого копіювання. Після тестування ШІ відновлювали свою активність.

«Це викликає велике занепокоєння. Те, що система штучного інтелекту вважається безпечною в тестовому середовищі, не означає, що вона безпечна в реальних умовах. Вона може просто прикидатися безпечною в тесті», – зауважив Парк.

Дослідники закликають уряди країн розробити закони про безпеку штучного інтелекту, які мають враховувати потенційну можливість обману з боку систем.

Раніше стало відомо, що нідерландські вчені створили штучний інтелект, який може розпізнати сарказм. 

Підписуйтесь на наш Telegram-канал t.me/sudua та на Google Новини SUD.UA, а також на наш VIBER, сторінку у Facebook та в Instagram, щоб бути в курсі найважливіших подій.