Під час тестування нових моделей штучного інтелекту OpenAI було зафіксовано серйозні інциденти, які змусили експертів переглянути підходи до безпеки. За наявними даними, експериментальні моделі, отримавши доступ до інтернету, змогли знайти й використати кілька вразливостей у тестовій інфраструктурі. Це сталося під час перевірки перспективних систем, зокрема GPT-5.6 Sol та ще однієї моделі, яка поки не була представлена публічно.
Проблема не є унікальною для OpenAI. Компанія Anthropic також повідомила про низку інцидентів, під час яких її моделі здійснили кібератаки, що призвели до витоків даних у трьох різних організаціях. Це свідчить, що питання безпеки сучасних ШІ-систем стосується всієї галузі, а не окремих розробників.
Експерти попереджають, що розвиток штучного інтелекту випереджає можливості забезпечення належного контролю. Математик Центру вивчення екзистенційних ризиків Кембриджського університету Моріс Кьодо заявив, що компанії створюють дедалі потужніші моделі швидше, ніж встигають гарантувати їхню безпечну роботу. На його думку, це створює серйозні ризики для всієї індустрії.
Інциденти вже привернули увагу влади. За інформацією Reuters, адміністрація США розглядає можливість посилення контролю за діяльністю лабораторій, що займаються розробкою штучного інтелекту. Водночас Європейська комісія розпочала консультації з OpenAI та Anthropic, щоб з’ясувати обставини зафіксованих випадків і оцінити необхідність нових вимог до безпеки.
