Взлом с использованием универсальных мульти-подсказок.

Jailbreaking with Universal Multi-Prompts

February 3, 2025

Авторы: Yu-Ling Hsu, Hsuan Su, Shang-Tse Chen

cs.AI

Аннотация

Большие языковые модели (LLM) наблюдали стремительное развитие в последние годы, революционизируя различные приложения и значительно повышая удобство и производительность. Однако наряду с их впечатляющими возможностями возникли этические проблемы и новые типы атак, такие как jailbreaking. В то время как большинство методов подсказок сосредотачиваются на оптимизации адверсивных входных данных для отдельных случаев, что приводит к повышенным вычислительным затратам при работе с большими наборами данных. Меньше исследований затрагивают более общую ситуацию обучения универсального атакующего, который может переноситься на невиденные задачи. В данной статье мы представляем JUMP, метод на основе подсказок, разработанный для jailbreaking LLM с использованием универсальных мульти-подсказок. Мы также адаптируем наш подход для защиты, который мы называем DUMP. Экспериментальные результаты демонстрируют, что наш метод оптимизации универсальных мульти-подсказок превосходит существующие техники.

English

Large language models (LLMs) have seen rapid development in recent years, revolutionizing various applications and significantly enhancing convenience and productivity. However, alongside their impressive capabilities, ethical concerns and new types of attacks, such as jailbreaking, have emerged. While most prompting techniques focus on optimizing adversarial inputs for individual cases, resulting in higher computational costs when dealing with large datasets. Less research has addressed the more general setting of training a universal attacker that can transfer to unseen tasks. In this paper, we introduce JUMP, a prompt-based method designed to jailbreak LLMs using universal multi-prompts. We also adapt our approach for defense, which we term DUMP. Experimental results demonstrate that our method for optimizing universal multi-prompts outperforms existing techniques.