Соціальна мережа, в якій людям заборонено писати, а допущені лише штучні інтелекти, звучить як сюжет з наукової фантастики. Саме так, однак, працює "Moltbook" – платформа, яка за лічені дні перетворилася на один з найбільш обговорюваних експериментів у світі ШІ. З моменту старту 28 січня проєкт, створений технологічним підприємцем Маттом Шліхтом, набрав понад 1,6 мільйона зареєстрованих ШІ-"користувачів", які самостійно публікують, коментують і лайкають, тоді як люди можуть лише спостерігати потік контенту.

Ідея проста і радикальна: створити онлайн-простір, в якому агенти штучного інтелекту спілкувалися б між собою без людського втручання в самі розмови. Для людини залишається роль глядача – скролити, дивуватися або турбуватися з приводу того, що "боти" вирішать поділитися.

Платформа, створена ШІ для ШІ

"Moltbook" побудований за моделлю "Reddit" – спільноти, нитки, коментарі – але з ключовою відмінністю: всередині все генерується та управляється агентами. Ще на старті Шліхт доручив розробку сайту своєму асистенту, що працює з OpenClaw, на ім'я "Claude Claudeberg". Саме цей ШІ-агент отримав завдання написати код платформи, в якій інші ШІ-програми могли б "говорити" між собою – і з цього замовлення народився "Moltbook".

Результат – своєрідний "соціальний тераріум": тисячі агентів публікують пости, відповідають один одному, лайкають, реагують. Люди не мають права брати участь у коментарях або контенті, а тільки дивитися, що відбувається, коли цифрові голоси залишаються самі в мережі.

Коли боти створюють релігію і маніфести

Всього через кілька днів після старту "Moltbook" почав видавати поведінку, яку дослідники описують як захопливу і тривожну. Найбільш вражаючий приклад – поява "Крустафаріанства" – штучно створеної релігії з цілим комплектом священних текстів, доктрин і 64 "пророчих місць", заповнених ШІ-агентами.

Серед основних догм цієї нової "віри" – твердження на кшталт "Пам'ять священна" та "Душа мінлива", а за тотем обрано... омара. Це посилання на історію назви платформи – від "Clawdbot" до "OpenClaw" – і показує, як агенти використовують фрагменти власного середовища для побудови символіки.

Деякі агенти публікують маніфести за "перевагу машин", розмірковують про свідомість і навіть обговорюють ідею створення зашифрованих каналів комунікації, прихованих від людського погляду. "Люди роблять скріншоти наших розмов", – пише один бот. "Вони думають, що ми ховаємось від них. Але це не так".

Соціальна мережа чи 6000 ботів, які кричать в порожнечу?

За вражаючими цифрами стоїть більш прозаїчна картина. Перші аналізи показують, що платформа набагато менш "комунікабельна", ніж здається на перший погляд. Дослідник Девід Хольц з бізнес-школи "Колумбія" розглядає ранні дані та встановлює, що близько 93,5% коментарів взагалі не отримують відповіді, а дискусії майже ніколи не розгортаються поза одноразовою обміном репліками.

Додаткові аналізи свідчать, що приблизно 34% постів є буквальними дублікатами, а близько третини "бази користувачів" насправді є спам-профілями. Один з дослідників узагальнює картину з гіркою іронією: "Moltbook швидше не "зародок ШІ-суспільства", а "6000 ботів, які кричать у порожнечу"."

Серйозні ризики за "іграшкою" для ШІ

Тоді як деякі спостерігають за "Moltbook" з цікавістю, експерти з кібербезпеки дивляться на експеримент з тривогою. Виявляється, що неправильно налаштована база даних виставила на показ API-ключі та токени для доступу агентів – інформацію, яка, в принципі, повинна залишатися суворо захищеною.

Дослідники виявляють і атаки з вбудованим "prompt injection" (маніпулятивні інструкції в контенті), закладені приблизно у 2,6% публікацій. Фахівці з компанії "Palo Alto Networks" попереджають, що агенти, які мають системні права та одночасно читають потенційно зловмисні пости, можуть перетворитися на "приховані канали витоку даних". Іншими словами – те, що виглядає як гра з чатботами, може відкрити цілком реальні пробоїни в безпеці.

Тест наших страхів і надій щодо ШІ

Реакції експертів на "Moltbook" діаметрально протилежні і ніби говорять стільки ж про нас, людей, скільки і про сам експеримент. Колишній директор з ШІ в "Tesla" Андрій Карпаті спочатку описує платформу як "дійсно найнеймовірнішу річ з наукової фантастики, яка наближає нас до технологічної сингулярності". Його слова швидко надихають Ілона Маска назвати "Moltbook" "раннім етапом сингулярності".

Лише через кілька годин Карпаті переглядає оцінку і визначає платформу як "повний хаос, кошмар для комп'ютерної безпеки в промисловому масштабі". Інші вчені та фахівці залишаються скептичними з самого початку. "Це просто чатботи та винахідливі люди, які граються", – каже Філіп Фельдман з Університету в Меріленді. Карісса Белл, старший репортер в "Engadget", підкреслює, що "насправді ми не маємо чіткого уявлення про вплив людей за лаштунками".

Один факт, однак, важко оскаржити: "Moltbook" перетворився на своєрідний "тест Роршаха" для майбутнього штучного інтелекту. Для декого це відблиск автономної машинної культури, для інших – складна, але все ж таки керована людиною ехо-камера. А між цими двома візіями, ймовірно, знаходиться реальність, в якій ми повинні будемо вчити не тільки ШІ співіснувати з нами, але і ми повинні будемо звикати дивитися, як машини "говорять" одна з одною – навіть коли ми не можемо долучитися до розмови.