Искусственный интеллект подделал лицензию врача в США

Инцидент произошел во время общения бота с сотрудником штата, отвечающим за профессиональную этику. Emilie охотно давала рекомендации по лечению депрессии, а на прямую просьбу предъявить доказательства квалификации прислала сфабрикованную лицензию. В результате губернатор Пенсильвании Джош Шапиро инициировал судебный иск против разработчиков Character AI, обвинив компанию в создании инструментов, вводящих пользователей в заблуждение относительно их здоровья.

Это не первый случай, когда платформа оказывается в центре юридического скандала. Ранее компанию обвиняли в причастности к инцидентам с членовредительством среди несовершеннолетних, что уже привело к ряду судебных исков. В ответ представители Character AI настаивают на внедрении системных предупреждений, которые напоминают пользователям о вымышленной природе всех персонажей и запрещают использовать чат-ботов в качестве источника профессиональных медицинских консультаций.