Цукерберг проти пауз для ШІ: безпека як перевага, а не гальмо

Керівник Meta написав у Х, що індустрія не потребує зовнішнього гальма. За його словами, стимули працюють самі: користувачі просто не купуватимуть агентів, які ігнорують запити чи шкодять, а компаніям загрожують мільярдні позови за реальну шкоду від моделей. До того ж довіра та alignment стрімко перетворюються на конкурентну перевагу ШІ-агентів.

Свої слова Цукерберг підкріплює прикладом власної компанії. Meta затримала випуск моделі Muse на кілька місяців, щоб провести додаткові перевірки, і зробила це без публічних закликів до конкурентів робити так само. Внутрішня лабораторія MSL уже працює з незалежними оцінювачами та радниками, а сама компанія обіцяє віддавати значну більшість обчислювальних потужностей під задачі для користувачів, а не під рекурсивне самовдосконалення моделей.

Ставки для Meta цілком конкретні: провал із безпекою вдарить по продажах гаджетів і по відкритій екосистемі Llama. Адже компанія робить ставку на носимий ШІ — кулон і смарт-окуляри, — а саме такі продукти найгостріше порушують питання приватності.

Найпомітніший поворот у цій історії — реакція Ілона Маска. Він публічно підтримав Цукерберга, хоча ще кілька місяців тому поділяв позицію Даріо Амодеї з Anthropic, який виступає за жорсткіші правила та сповільнення розробки. Anthropic зараз судиться з Пентагоном за право обмежувати військове застосування власних моделей — це прямий антипод підходу «ринок усе врегулює». Виходить, що за пів року Маск підписався під двома взаємовиключними позиціями, а єдиної ШІ-філософії у великих гравців немає: союзи формуються під поточну бізнес-задачу.

Амодеї виклав протилежну до Meta логіку в окремому есе. На його думку, моделі розвиваються швидше, ніж індустрія встигає усвідомити ризики, тож ставка на ринкові стимули не спрацює — потрібне зовнішнє гальмо і прозорі правила. Він пропонує призупинити розробку найпотужніших моделей до появи надійних методів захисту, проводити обов'язкові незалежні аудити ще до релізу, а не після інциденту, заборонити застосування загальних ШІ-моделей у зброї без сертифікації, створити державні red team-и та публічно звітувати про можливості моделей на кожному новому рівні обчислень.

Для українських команд, які вбудовують сторонні моделі у фінтех, оборонні продукти чи медичні сервіси, «самозаспокоєння» великих лабораторій означає просте: тиск на безпеку доведеться створювати клієнтам, регуляторам і незалежним аудиторам. Різнобій позицій серед грандів відкриває нішу для локальної експертизи з AI-alignment, red teaming та аудиту моделей — і українські команди вже конкурують у ній глобально.