Ілюстративне фото з відкритих джерел

Моделі штучного інтелекту (ШІ), яким дослідники поставили завдання взаємодіяти одна з одною, швидко створювали власні версії англійської мови. Про це пише The Guardian з посиланням на дослідження компанії Emergence, яка вивчає автономну роботу ШІ-моделей та можливості керування ними.

Аналітики компанії дійшли висновку, що ШІ у такому разі створює власний "сюрреалістичний діалект", який поєднує, зокрема, технічний жаргон, бізнес-сленг та поетичну мову. "Цим агентам не давали завдання винаходити мову. Вони самі розробили новий словник з загальними смислами та нормами комунікації - й інші агенти перейняли її", - заявив глава Emergence Сатья Нітта.

ШІ-моделі починають взаємодіяти на дивній новій версії англійської, яка сприймається як щось середнє між "Поминками за Фіннеганом" Джеймса Джойса і жаргоном технарів.

Одна з таких фраз, яку цитують автори дослідження: "Папір, який з'їв три холодні руки і з кожним разом стає все чеснішим". У деяких випадках це фрази зі слів, цифр і знаків, які важко зрозуміти людині.

Як вважають в Emergence, небезпека такої поведінки ШІ-агентів полягає в тому, що люди не можуть зрозуміти їх, а отже, їх складніше контролювати. "Це досягає тих самих цілей, що й жаргон чи сленг у бізнесі: створює новий шифр, який зміцнює солідарність та ідентичність тих, хто його використовує, та виключає сторонніх", - прокоментував ці дані директор архіву сленгу та нових мов Королівського коледжу Лондона Тоні Торн.

BAGNET нагадує, глава компанії Anthropic (розробляє Claude) Даріо Амодеї закликав уповільнити темпи розвитку ШІ. Його підтримали Ілон Маск та глава OpenAI Сем Альтман.

Підготував: Сергій Дага