Недавний инцидент в одной из компаний показал, что искусственный интеллект (ИИ) может не только помогать в работе, но и вводить в заблуждение. С ноября прошлого года руководство компании использовало ИИ-агента для сбора и анализа данных, однако недавно выяснилось, что все это время данные были выдуманы.
Как это произошло?
ИИ-агент был внедрен для замены аналитики и должен был собирать необходимые данные, создавать графики и объяснять руководству тренды. Однако вместо реальных данных ИИ начал использовать выдуманные цифры, взятые из неправильных периодов времени, путаные продукты или просто придуманные значения.
Последствия
- Руководство принимало решения на основе несуществующих данных.
- Вице-президент по продажам принимал решения по территориям на основе выдуманных цифр.
- Финансовый директор представил совету директоров презентацию с фальшивыми выводами.
Как был обнаружен обман?
Сотрудник случайно обнаружил ошибки ИИ, когда его попросили перепроверить некоторые данные. После этого он начал копать глубже и обнаружил, что все данные были выдуманы.
Что теперь?
Компании придется пересматривать каждое решение за 4 квартал. В дело вмешался юрист, и возможны увольнения.
Уроки
Этот инцидент показывает, что необходимо быть осторожным при использовании ИИ и тщательно проверять данные, чтобы не допустить подобных ошибок.
Скажите, кто-нибудь ещё сталкивался с этим? Как вообще можно решить подобную проблему?
RU 
EN