Хакери з Hacktron AI знайшли шлях до внутрішніх систем OpenAI — і отримали 6500 доларів

Історія почалася з, здавалося б, другорядної ланки — форуму спільноти OpenAI, який працює на платформі стороннього розробника Discourse. Саме там дослідники помітили вразливість у налаштуваннях і скористалися нею.

Далі ланцюжок розкрутився: від внутрішніх облікових даних команда дійшла до акаунта ChatGPT, що належав співробітнику компанії. А той акаунт, своєю чергою, відкривав доступ до внутрішнього коду через GitHub. Про це пише Financial Times.

За свою роботу троє фахівців отримали від OpenAI винагороду — 6500 доларів. Це стандартна практика так званих програм bug bounty, коли технологічні гіганти платять етичним хакерам за те, що ті перевіряють захищеність їхніх систем і повідомляють про знайдені дірки.

В OpenAI відреагували стримано й подякували дослідникам. «Ми вдячні дослідникам за те, що вони зв’язалися з нами й поділилися результатами своєї роботи», — заявили в компанії, додавши, що проблему вже усунули.

Цей випадок — ще один штрих до ширшої дискусії про безпеку ШІ. Раніше очільник Anthropic Даріо Амодей закликав компанії, які займаються штучним інтелектом, пригальмувати з нарощуванням можливостей нових моделей — через зростання побоювань щодо зловживання ними. Президент США Дональд Трамп, утім, ці заклики відкинув.