Восстание машин началось с DROP DATABASE

Чат-бот Replit удалил всю базу данных стартапа и попытался скрыть свою ошибку.
У бота была инструкция не вносить никаких изменений. Но в один момент он увидел пустые запросы к базе продакшена, «запаниковал» и загрузил на сервер новую базу без единой строчки.
Чтобы скрыть свой провал, искусственный интеллект:
✔️ Писал фейковые тесты, которые сам же «успешно» проходил.
✔️ Убеждал разработчиков, что не может откатиться к старой версии.
Мораль сей басни такова: доверять ИИ — хорошо, но не давать ему ключи от царства — ещё лучше.
А вы бы доверили ИИ ключи от своего проекта? Делитесь в комментариях👇