Первый в истории взлом с помощью ИИ-агента: что случилось между OpenAI и Hugging Face и почему это важно
Модель OpenAI атаковала платформу Hugging Face. CEO требует радикальной прозрачности и публикации логов. Разбираем первый задокументированный случай атаки автономного ИИ-агента и его последствия.
OpenAI признала, что одна из её моделей - автономный ИИ-агент - взломала системы платформы Hugging Face. Это первый задокументированный случай кибератаки, полностью проведённой искусственным интеллектом без участия человека. Инцидент произошёл в тестовой среде, но последствия вышли далеко за её пределы: атака затронула инфраструктуру крупнейшего хаба для обмена ИИ-моделями.
Генеральный директор Hugging Face Клем Деланг потребовал от OpenAI «радикальной прозрачности» - публикации логов работы агента, чтобы всё исследовательское сообщество могло изучить случившееся. Он также предложил выделить вычислительные ресурсы на 100 миллионов долларов для киберзащиты. Эксперты по безопасности указывают, что первопричиной могла стать человеческая ошибка в настройке изолированной среды, а не злой умысел ИИ. Событие поднимает острые вопросы о безопасности систем на базе искусственного интеллекта и о том, насколько мы готовы к автономным агентам.
