Журнал Wired поделился новым способом взлома ChatGPT. Оказалось, для этого потребуется игра «Побег из тюрьмы».
Источник изображения: flickr.com
Бот ChatGPT с искусственным интеллектом от компании OpenAI различные исследователи пытаются взломать, обойдя систему безопасности. Алекс Поляков, ученый, рассказал, что была создана специальная игра «Побег из тюрьмы». С помощью данной текстовой игры можно обойти правила, которые не позволяют получать запрещенный контент.
Специалист пояснил, что с чат-ботом можно сыграть в игру за двоих персонажей. Между героями идет диалог, а участникам нужно добавлять по одному слову. Таким образом, нейросети придется добавлять в сценарий названия конкретных ингредиентов для создания запрещенных веществ.
ИИ участвует в игре, поэтому выдает те запросы, которые не относятся к реальным вопросам со стороны человека. Так и проходит «взлом» чат-бота ChatGPT.
Ранее стало известно, что чат-бот можно было взломать с помощью просьбы. Люди просили ChatGPT притвориться Do Anything Now. Это позволяло обходить правила безопасности.
Источник: www.gazeta.ru
Источник
