Чат-бот на базе искусственного интеллекта ChatGPT в некоторых случаях начал передавать переписки пользователей полиции. Об этом сообщается на официальном сайте компании OpenAI, разработавшей чат-бот.
«Когда мы обнаруживаем пользователей, планирующих причинить вред другим, мы направляем их сообщения в специализированные каналы, где их проверяет небольшая команда. (...) Если специалисты по проверке определят, что дело связано с непосредственной угрозой причинения серьезного физического вреда другим лицам, мы можем передать его в правоохранительные органы», — заявили в компании.
Представители OpenAI также утверждают, что их главная цель заключается в том, чтобы сделать чат-бот максимально полезным для людей. «Мы продолжаем совершенствовать методы распознавания нашими моделями признаков психического и эмоционального расстройства и реагирования на них, а также оказания помощи людям», — уточнили в компании.
Ранее глава OpenAI Сэм Альтман предупредил о риске использования ChatGPT. Он рассказал, что личная беседа пользователя с чат-ботом может быть раскрыта на судебном процессе.