OpenAI признала потенциально критический уровень риска кибербезопасности в новой модели Astra
Кратко: OpenAI в ходе внутренних тестов модели Astra выявила потенциально критический уровень риска кибербезопасности по собственной системе классификации. Компания не смогла исключить возможность наступления такого сценария, что стало основанием для официального заявления.
Что произошло
OpenAI сообщила, что внутренние тесты новой модели Astra продемонстрировали значительные улучшения в области агентного кодирования и кибербезопасности. Однако именно эти улучшения привели к тому, что компания оценила потенциальный уровень риска кибербезопасности как критический. В заявлении OpenAI подчеркивается, что исключить возможность такого развития событий нельзя.
Что изменилось по сравнению с предыдущей версией
По сравнению с предыдущими версиями моделей OpenAI, Astra показывает существенно более высокие результаты в задачах агентного кодирования — это означает, что модель способна автономно выполнять сложные действия с кодом, включая поиск уязвимостей и написание эксплойтов. Именно этот прогресс стал причиной повышенного внимания к рискам.
Цены и доступность
Информация о дате выхода, стоимости и географии доступности Astra пока не раскрывается. На текущий момент модель находится на стадии внутреннего тестирования.
Почему это важно
Признание OpenAI потенциально критического уровня риска — редкий и значимый шаг для индустрии. Он подчеркивает, что развитие ИИ в области кибербезопасности несёт не только пользу, но и серьёзные угрозы. Это может повлиять на регулирование и стандарты безопасности для всех разработчиков ИИ-моделей.
Для пользователей AI-Sphere
Для пользователей AI-Sphere это сигнал о том, что даже ведущие лаборатории сталкиваются с двойственным характером прогресса. Следите за обновлениями в карточке Astra на ai-sphere.ru — мы будем оперативно добавлять информацию о доступности и характеристиках модели, как только она появится.