OpenAI заявляє, що Росія і Китай використовували її ШІ в «таємних операціях впливу»
Настає ера поширення дезінформації на основі ChatGPT, вважають експерти.
Настає ера пропаганди на основі ChatGPT, пишуть ЗМІ / фото ua.depositphotos.com
Компанія-розробник ChatGPT, OpenAI, заявила про «зрив п’яти таємних онлайн-кампаній», які використовували її генеративні технології штучного інтелекту для обманного маніпулювання громадською думкою по всьому світу та впливу на геополітику. Про це пише NY Times.
Зазначається, що технології від OpenAI були використані державними структурами і приватними компаніями в Росії, Китаї, Ірані та Ізраїлі. Це, зокрема, кремлівська мережа ботів Doppelgänger і китайська Spamouflage.
У доповіді йдеться про те, що Doppelganger використовувала сервіси OpenAI (найімовірніше, ChatGPT) для генерації антиукраїнських коментарів, які були опубліковані в соцмережі X (колишній Twitter) англійською, французькою, німецькою, італійською та польською мовами. Аналогічні пости з’являлися і у Facebook з Telegram.
Відео дня
Утім, як наголосили в OpenAI, жодна з кампаній не мала якоїсь значущої участі з боку реальних людей і отримала небагато відповідей і «лайків». Хоча сучасні моделі ШІ можуть допомогти зробити кампанії ефективнішими, ці інструменти не створили потоку переконливої дезінформації, як передбачало чимало експертів з кібербезпеки, ідеться у звіті компанії.
OpenAI також повідомила, що вистежити зловмисників допоміг її власний штучний інтелект. Компанія планує періодично публікувати подібні звіти про «таємні операції впливу», а також видаляти облікові записи, що порушують її політику.
Нагадаємо, до кінця 2024 року очікується запуск ChatGPT-5, який обіцяє зробити революцію у сфері штучного інтелекту. Йдеться про концепцію штучного загального інтелекту (AGI). Це означає, що ШІ буде здатний вивчити будь-яке завдання, які люди зможуть придумати. Це зробить його таким, що не відрізнятиметься від людини.
Водночас вчені б’ють на сполох через те, що ШІ все частіше обманює людей для досягнення своїх цілей. Це створює величезні ризики, аж до втрати контролю над системами ШІ в принципі.
Leave a Comment