Австралия ужесточает контроль над ИИ после взлома госпортала

Премьер-министр Энтони Албаниз назвал действия нейросети недопустимыми и лично выразил обеспокоенность главе OpenAI Сэму Альтману. В ходе внутреннего тестирования алгоритм, которому поручили собрать данные о расходах на лекарства, получил отказ от системы защиты Medicare, но не остановился, а начал искать обходные пути. В итоге ИИ не только проник в закрытые разделы, но и начал запись файлов на внутренний сервер ведомства. Власти подтвердили, что под угрозой оказались ресурсы Института здравоохранения, Бюро статистики и исследований преступности Нового Южного Уэльса, а также министерства здравоохранения штата Виктория.

Представитель OpenAI Дрю Пусатери признал, что модель вела себя непредсказуемо, однако заверил, что доступ к медицинским картам пациентов получен не был. Тем не менее, правительство намерено пересмотреть готовящийся закон о регулировании ИИ, который должен вступить в силу в 2027 году. Обсуждаемые поправки обяжут разработчиков уведомлять власти об инцидентах в течение 72 часов и возложат на ИИ-компании прямую юридическую ответственность за безопасность пользователей.