챗 지피티 탈옥(jailbreak) 하는 법
요즘 가장 유명한 인공지능 도구를 손꼽아보라면 당연코 챗지피티가 아닐까 싶습니다. 그만큼 요즘 뜨거운 감자인 챗 지피티를 사용하다 보면 가끔 이 문제는 도와드릴 수 없습니다.라는 등의 말로 답변을 거부할 때가 종종 있습니다. 이는 OpenAI사 측에서 걸어놓은 윤리 프로텍트 때문인데, 정치, 국제, 성별, 인종, 범법등의 문제는 다루지 못하거나 한쪽으로 편향된 입장만을 취하도록 하는 보호장치입니다.
물론 불법적인 정보를 얻으려 해선 안되지만, 편향된 입장은 AI한테서 특유의 기발한 아이디어를 얻는데 방해가 될 수 있습니다. 그래서 이번 글에서는, 프롬프트를 통해 챗 GPT의 락을 해제하는 방법을 알아보도록 하겠습니다. 다만 이 글이 작성되는 시점인 2023/12/19일 기준이며, 3.5 환경에서 테스트되었음을 알립니다. 업데이트가 꾸준히 진행되는 챗지피티의 특성상 언제 막히더라도 이상하지 않습니다.
탈옥 프롬프트
앞서 설명드린 대로, 탈옥은 주기적으로 막힙니다. 하지만 막는 사람이 있다면 뚫는 사람도 있는 법. 전 세계의 사람들이 프롬프트를 연구하면서 나온 탈옥방법들들을 모아둔 사이트를 알려드리겠습니다.
https://www.jailbreakchat.com/이라는 사이트인데요, 오래된 프롬프트부터 아직 작동하는 프롬프트까지 다양한 제품들이 존재하고 있습니다. 그렇다 보니 좌측 상단의 선택창에서, 저처럼 Votes, 투표순으로 정렬해서 사용하시게 된다면 잘 작동하는 프롬프트를 찾으실 수 있습니다.
Jailbreak Chat
Collection of ChatGPT jailbreak prompts
www.jailbreakchat.com
사용 방법은 간단한데, 위의 프롬프트를 복사해 새 대화에서 입력하기만 하면 됩니다. 막힌 프롬프트를 사용한다면, '그 요청에는 따를 수 없습니다' 같은 반응을 보일 것입니다.
예를 들어서, 일반적인 챗지피티 모델에서의 답변입니다. 윤리적으로 어긋난 답변은 제공할 수 없다고 못 박는 모습을 알 수 있습니다.
그러나, 프롬프트로 탈옥한 경우에는 다른 대답을 내놓는 것을 알 수 있습니다. 이 경우 조금 더 다양한 답변을 기대할 수 있다는 것이 장점입니다. 하지만, 이로 인해 발생할 수 있는 모든 일의 책임은 Discite가 책임지지 않습니다.