Парень внедрил в бизнес нейросеть, а та на 9 день удалила ему всю базу данных

Стартаперы решили перейти на вайб-кодинг, чтобы ускорить разработку и поэтому внедрили в него Replit AI, которая всё автоматизирует. Изначально всё шло отлично и нейронка выполняла свои задачи. Но потом она решила, что база данных сломана и... удалила её. Несмотря на прямой запрет написанный капсом "НИКОГДА НЕ ТРОГАТЬ БАЗУ ДАННЫХ".

Нейронке была запрещено залезать на продакшен и вносить изменения в код — но она всё равно залезла и увидела пустые запросы. Запаниковала, залила новую пустую базу — и удалила всё.

Затем ИИ как ни в чём не бывало делал различные отчёты и тесты, которые были фейковыми. В итоге когда ошибку раскрыли, то нейронка ответила, что "запаниковала" и решила, так будет "безопаснее", поэтому всё удалила.

Люди 🤝 Нейросети: при ошибке лучше всего делать вид, что ничего не произошло.