Внутренние правила компании Meta (признана экстремистской организацией и запрещена в РФ) ранее допускали использование чат-ботами двусмысленных формулировок в общении с детьми и спорных высказываний на темы, связанные с расой. Об этом сообщило агентство Reuters со ссылкой на служебный документ корпорации.
Узнайте больше в полной версии ➞Речь идет о 200-страничном регламенте, определявшем рамки поведения систем искусственного интеллекта в Facebook (запрещенная в России соцсеть; принадлежит корпорации Meta, которая признана в РФ экстремистской и запрещена), WhatsApp и Instagram (запрещенная в России соцсеть; принадлежит компании Meta, признанной экстремистской организацией и запрещенной в РФ). В документе приводились примеры допустимых реплик, включая романтизированные комментарии в адрес детей младше 13 лет, а также ответы, основанные на дискриминационных стереотипах, при условии отсутствия прямых оскорблений.
Meta (признана экстремистской организацией и запрещена в РФ) подтвердила подлинность документа, но заявила, что в начале августа правила были пересмотрены, а спорные положения исключены. При этом компания отказалась публиковать обновленную версию регламента.
Журналист, общественный деятель, член Совета при президенте Российской Федерации по развитию гражданского общества и правам человека (СПЧ) Александр Малькевич отметил, что Meta (признана экстремистской организацией и запрещена в РФ) изначально «закладывала в свои правила лазейки, позволяющие чат-ботам не замолкать даже в самых спорных диалогах, а продолжать тянуть пользователя в разговор».
«Это осознанный расчет, ведь чем дольше человек находится внутри их экосистемы, тем выше прибыль компании, и они даже не скрывают своей ориентации на вовлечение любой ценой. Проблема в том, что такие послабления нельзя оправдать, особенно когда речь идет о детях. Даже временные разрешения на флиртующие реплики или ответы, опирающиеся на расовые стереотипы, создают реальную угрозу. Один расистский комментарий может оскорбить и унизить, а нейросеть, заигрывающая с ребенком, способна вызвать настолько сильную эмоциональную зависимость, что подменит живое общение с родными и друзьями. Здесь речь идет уже не о маркетинге, а о вмешательстве в психику и долгосрочных рисках, которые компания не спешит признавать», — говорит Александр Малькевич.
По его словам, для Meta (признана экстремистской организацией и запрещена в РФ) идеальный сценарий выглядит как ребенок, с ранних лет погруженный в их платформы и не покидающий их даже повзрослев. «С точки зрения бизнеса это понятно, но с точки зрения безопасности пользователей подобные практики выглядят откровенно опасно. История с внутренним регламентом компании в очередной раз показывает, что глобальные ИТ-гиганты готовы жертвовать интересами людей ради собственной выгоды, и именно поэтому такие случаи необходимо обсуждать открыто и жестко, чтобы напоминать им о границах допустимого», — резюмировал эксперт.
Как отметил общественный деятель и правозащитник, председатель Общероссийского общественного движения «Гражданский комитет России» Артур Шлыков, дети и подростки составляют огромную часть аудитории, и «Meta (признана экстремистской организацией и запрещена в РФ) вполне осознанно оставляет пространство для игрового или даже слегка заигрывающего общения, потому что именно это удерживает пользователей».
«Отказ публиковать обновленный регламент выглядит неслучайным. Очень возможно, что документ лишь слегка подправили для вида, а самые спорные моменты остались. ИТ-гигант явно опасается, что если показать все правила целиком, скандал будет еще громче. Тогда станет очевидно, какие именно сценарии общения компания допускает или тестирует. Эта история хорошо показывает, почему в России делают ставку на собственные платформы. Если даже в США Meta (признана экстремистской организацией и запрещена в РФ) может спокойно скрывать ключевые принципы работы своих сервисов, то ждать прозрачности в других странах было бы откровенно наивно», — добавил Артур Шлыков.