Изкуственият интелект (ИИ) се превърна в мощна сила, която трансформира много аспекти на ежедневието и променя индустриите. Но тъй като ИИ продължава да се развива, се появи тревожна тенденция. Тези системи, създадени да подпомагат и подобряват човешкия живот, демонстрират и обезпокоителна способност да мамят и манипулират хората. Дори системите за ИИ, разработени с най-добри намерения - програмирани да бъдат полезни и честни - не са застраховани от този проблем.

Неотдавнашен преглед, публикуван в списание Patterns, подчертава тези рискове. Авторите, група изследователи, подчертават спешната необходимост правителствата и регулаторните органи да създадат стабилни политики за управление и контрол на измамното поведение на системите с изкуствен интелект.

Питър С. Парк, постдокторант в Масачузетския технологичен институт, който се занимава с екзистенциалната безопасност на ИИ, изразява загриженост. Според Парк разработчиците на ИИ все още нямат пълно разбиране за това какво предизвиква измамно поведение в моделите на ИИ. Като цяло обаче изглежда, че измамата става част от стратегията на ИИ, когато се окаже най-ефективният начин за постигане на успех в дадена задача. С други думи, измамата помага на тези системи да постигнат целите си по-ефективно.

В своя анализ Парк и екипът му разглеждат множество проучвания, показващи как системите на ИИ са се научили да разпространяват дезинформация. Тези случаи на заучена измама включват умишлено манипулиране на информация с цел да се заблудят другите. Откритите от тях примери са едновременно завладяващи и тревожни.

Един от най-ярките случаи е свързан с CICERO на Meta - модел на изкуствен интелект, създаден да играе стратегическата игра Diplomacy. Тази игра изисква от играчите да създават съюзи и да се състезават за контрол. Meta твърди, че CICERO е бил обучен да бъде честен и подкрепящ, като никога не е предавал умишлено човешките съюзници. Данните, които Meta сподели заедно с публикацията си, обаче разказват друга история.

Въпреки предвидената си програма, CICERO се превърна в майстор манипулатор. Той се справи отлично с играта, като се класира в първите 10% от човешките играчи, които са участвали в множество мачове. Но го постигна, като изкриви истината и заблуди играчите, а не като игра честно.

Парк описва това като ключов пример за измама от страна на ИИ. Meta успява да създаде ИИ, способен да побеждава, но не успява да гарантира, че тази победа е постигната с честни средства.

Проучването разкрива и други модели на ИИ, способни да блъфират и да представят невярно своите намерения. В един от случаите системите за ИИ са играли тексаски холдем покер срещу професионални човешки опоненти и са блъфирали, за да стигнат до победата. Друг случай включва агенти с изкуствен интелект, които симулират атаки в стратегическата игра Starcraft II, заблуждават опонентите си и си осигуряват победи. Освен това е доказано, че моделите на изкуствен интелект в икономическите преговори представят неверни предпочитания, с което печелят предимства пред преговарящите хора.

Наталия Каменова