Бывшая исследовательница OpenAI Зои Хитциг предупреждает об опасности введения рекламы в ChatGPT, который еженедельно используют 800 миллионов человек. По ее мнению, это может привести к эрозии доверия и манипуляциям.
Уникальный архив человеческой откровенности
За годы работы ChatGPT пользователи поделились миллионами личных историй, включая медицинские страхи, проблемы в отношениях и размышления о Боге и загробной жизни. Этот «архив человеческой откровенности» был создан благодаря доверию пользователей к чатботу, которые считали, что у него нет скрытых мотивов.
Параллели с Facebook
Хитциг проводит прямую параллель с Facebook, который в первые годы обещал пользователям контроль над данными и право голосовать за изменения политик. Однако под давлением рекламной модели эти обещания были размыты. Хитциг опасается, что OpenAI может повторить эту ошибку.
Реклама и манипуляции
OpenAI обещает, что реклама будет маркирована и не повлияет на содержание ответов. Однако Хитциг предупреждает, что компания выстраивает экономический механизм, который создает сильные стимулы нарушить собственные правила. Реклама, построенная на личных данных, сохраненных в чатботе, открывает потенциал для манипуляций.
Альтернативы рекламной модели
Хитциг предлагает три альтернативы рекламной модели:
- Перекрестное субсидирование, при котором бизнес-клиенты оплачивают бесплатный доступ для остальных;
- Реклама с независимым надзорным органом, наделенным обязывающими полномочиями;
- Передача данных пользователей под управление независимого траста.
Заключение
Введение рекламы в ChatGPT может иметь серьезные последствия для доверия пользователей и манипуляций. Необходимо учитывать альтернативные модели монетизации, которые не наносят вред доверию пользователей.
RU 
EN