Навіщо OpenAI створила ШІ, який уміє створювати експлойти? OpenAI презентує GPT-5.6-Cyber

Навіщо OpenAI створила ШІ, який уміє створювати експлойти? OpenAI презентує GPT-5.6-Cyber

Про це повідомляє TechCrunch. 

Поки що простим користувачам скористатися GPT-5.6-Cyber не вийде. Доступ до моделі надається лише схваленим фахівцям і організаціям.

OpenAI вже перевірила GPT-5.6-Cyber на реальному коді. Модель шукала вразливості у V8, компоненті, який відповідає за виконання JavaScript у Google Chrome, і знайшла дві раніше невідомі помилки.

Перша з них дозволяла програмі звернутися до ділянки пам’яті, до якої вона не повинна була мати доступу. Тож як зловмисник міг використати цю вразливість?  Наприклад, створити спеціально підготовлену html-сторінку. Коли користувач відкривав її, код на сторінці міг спричинити помилку в Chrome. Це дозволяло сторінці прочитати або змінити дані в пам’яті, до яких сайт зазвичай не мав доступу. Потенційно це можна було використати, щоб змусити Chrome виконувати сторонній код.

Втім, у V8 є додатковий захист, що ізолює його пам’ять від решти браузера. Тож цієї вразливості для серйозної атаки було недостатньо. Для цього була потрібна друга вразливість, і, як стверджує OpenAI, GPT-5.6-Cyber її знайшла. Але як саме вона працювала, компанія поки не розкриває. 

GPT-5.6-Cyber стала частиною оновленої програми Daybreak для фахівців із кібербезпеки. OpenAI ділить її на два рівні: Daybreak Blue і Daybreak Red, на якому і доступна ця програма. Daybreak Red призначена для складніших кібербезпекових задач. ЇЇ можна використати для пентестів — контрольованих спроб зламати систему, щоб перевірити її захист і знайти вразливості. Або ж для дослідження вразливостей, де ШІ може, наприклад, створювати й перевіряти експлойти. 

А ось Dayybreak Blue компанія називає стартовим варіантом для більшості команд кібербезпеки. Через нього можна аналізувати шкідливе ПЗ, реагувати на інциденти, шукати вразливості та перевіряти патчі

Запуск GPT-5.6-Cyber відбувається на тлі того, що ШІ стає дедалі вправнішим не лише в пошуку вразливостей, а й у їх використанні. Нещодавно агент OpenAI вийшов за межі заданого сценарію та атакував Hugging Face, а модель Mythos 5 від Anthropic під час іншого експерименту створювала фейкові акаунти й намагалася обманом проштовхнути шкідливий код у реальний проєкт.

Саме зростання таких можливостей OpenAI називає однією з причин розвивати Daybreak. У компанії очікують, що зловмисники дедалі частіше використовуватимуть ШІ для швидких і навіть повністю автономних кібератак, тому хочуть дати фахівцям із кібербезпеки ефективні ШІ-інструменти раніше, ніж такі можливості масово опиняться в руках зловмисніків.

/

OpenAI випустила GPT-5.6-Cyber — спеціальну версію GPT-5.6 Sol, яку навчили шукати вразливості, перевіряти захист і працювати з експлойтами. 

Leave a Reply

Your email address will not be published. Required fields are marked *