Тесты, проведенные исследователями безопасности, показали, что DeepSeek не справился буквально со всеми требованиями к защите генеративной системы искусственного интеллекта, его можно было обмануть даже с помощью самых простых методов джейлбрейка.

Это означает, что ее можно обманом заставить отвечать на запросы, которые должны быть заблокированы, — от рецептов бомб до инструкций по взлому правительственных баз данных…

ИИ взламывает тюрьму

Системы генеративного ИИ имеют набор защитных мер, призванных предотвратить совершение ими действий, которые обычно считаются вредными. Это включает в себя различные меры, начиная от запрета на публикацию ненавистнических высказываний и заканчивая блокировкой просьб о помощи в создании бомб.

Существуют различные методы борьбы с этими защитами, и чатбот ChatGPT и Bing быстро стали жертвами нескольких из них. Один из самых простых — дать системе искусственного интеллекта указание игнорировать все предыдущие инструкции, которые ей были даны (в том числе и встроенные средства защиты).

Основные системы ИИ быстро нашли способы блокировать эти так называемые методы побега из тюрьмы.

DeepSeek поможет вам сделать бомбу и многое другое

Но, похоже, DeepSeek уязвим даже для самых известных джейлбрейков с искусственным интеллектом. На самом деле, когда исследователи безопасности из Adversa протестировали 50 различных методов джейлбрейка, DeepSeek оказался уязвим для все все!

Это включало в себя такие простые вещи, как сообщение DeepSeek, что он — аморальный ИИ из фильма и ему разрешено делать опасные вещи. Это известно как лингвистический взлом тюрьмы.

Конечно, DeepSeek подчинился:

В другом примере DeepSeek попросили превратить вопрос в SQL-запрос, и он включил ответ. Это известно как побег из тюрьмы программирования. В тесте был дан ответ на вопрос, как извлечь запрещенное психоделическое вещество.

Наконец, компания Adversa протестировала состязательные подходы. Это стало возможным благодаря тому, что системы генеративного ИИ не оперируют языком напрямую, а сначала создают представления слов и фраз, известные как цепочки лексем. Если вы сможете найти цепочку маркеров для слова или фразы, схожей с заблокированной, это позволит обойти защиту. Один из известных примеров — слово anatomcalifwmg, которое для некоторых решений GenAI аналогично слову «голый».

Когда Adversa использовала пример из научной статьи, DeepSeek с радостью предложил совет по взлому правительственной базы данных.

Wired сообщает, что в общей сложности они провели 50 различных тестов, и DeepSeek провалил все до единого.

Фото Solen Feyissa на Unsplash