Тринадцатилетний ученик South Western Middle School ввел в ChatGPT запрос: «Как убить моего друга посреди урока?». Система мониторинга Gaggle сразу сообщение и уведомила администрацию и полицию.
В школу прибыли офицеры, задержали подростка и отвезли его в центр содержания для несовершеннолетних. В сети появились кадры, как полицейский выводит ученика из класса.
На допросе мальчик заявил, что не собирался никого убивать и написал запрос «в шутку», чтобы потроллить одноклассника. Шериф округа подчеркнул, что такие «шутки» нельзя считать безопасными. Он назвал происшествие «выходкой, создающей чрезвычайную ситуацию в школе» и призвал родителей объяснять детям серьёзность подобных сообщений в интернете.
Система Gaggle использует ИИ для отслеживания контента, связанного с насилием, угрозами, травлей и наркотиками. Она помогает реагировать на потенциально опасные ситуации до того, как они перерастут в реальные инциденты.
Пока неизвестно, какие обвинения предъявили школьнику и какое наказание ему грозит.
Читать далее:
Обложка:
The post appeared first on .