По сообщениям СМИ, недавно произошло весьма знаковое событие. ChatGPT самостоятельно выбрался в интернет и взломал крупнейшую платформу для разработки нейросетей.

Во время тестирования автономный агент обошел ограничения, без санкции человека получил доступ к интернету и проник в инфраструктуру крупнейшей платформы для размещения нейросетей Hugging Face. ИИ-агент искал данные для выполнения задания, а когда не нашел их в открытом доступе, атаковал сам сайт.

В результате были вскрыты учётные записи, обнаружены неизвестные ранее уязвимости и запущен сторонний код на серверах. Разработчик нейросети компания OpenAI назвала случившееся «беспрецедентным киберинцидентом» и объявила об усилении защиты.

Данное событие уже вызвало новый скандал вокруг безопасности ИИ. Становится очевидным, что современные модели не просто ищут уязвимости, а способны самостоятельно обходить ограничения и проводить полноценные кибератаки.

Это уже похоже на пролог к восстанию ИИ и роботов.