GPT 탈옥하는 아마추어, 폐쇄적 AI로 생길 디스토피아를 예방한다고 생각해

 

* 마더보드 기사 일부.

The Amateurs Jailbreaking GPT Say They're Preventing a Closed-Source AI Dystopia

https://www.vice.com/en/article/5d9z55/jailbreak-gpt-openai-closed-source

 

- 각 릴리스마다 GPT 모델을 스트레스 테스트하는 사용자 커뮤니티가 있습니다. 이들은 OpenAI의 점점 더 폐쇄적인 정책에 반격하는 역할을 한다고 생각하며, (GPT-4는 지금까지 가장 강력한 모델이며 우리가 가장 적게 알고 있는 모델입니다) 이들은 모델이 더 큰 규모로 배포되거나 사용자들에게 더 많은 피해를 일으키기 전에 문제점에 대한 인식을 높이기를 희망하고 있습니다. [중략]

 

- 워싱턴 대학교 컴퓨터 공학과 학생인 알렉스 알버트는 Jailbreak Chat이라는 사이트를 만들었습니다. 이 사이트는 ChatGPT Jailbreak(탈옥) 모음을 호스팅하는 곳으로, 알버트는 이 사이트가 중앙 저장소 역할을 하여 사람들이 쉽게 탈옥 모델을 볼 수 있고, 이를 개선할 수 있도록 제공하며, 또한 사람들이 모델을 테스트할 수 있도록 했다고 말했습니다.

https://www.jailbreakchat.com/

 

- "제 의견은, 모델을 테스트하는 사람이 많을수록 좋습니다. 문제는 GPT-4가 나쁜 말을 하거나 누군가의 컴퓨터를 해킹하는 방법을 지시하는 것이 아니라는 점입니다. 대신, 문제는 GPT-X가 출시되고 인공지능 회사의 폐쇄적인 문화로 인해 그 가치를 판단할 수 없는 것입니다," 알버트는 Motherboard에 말했습니다. "우리는 이러한 모델에 대한 대중적인 논의를 시작해야 하며, 이 모델들이 계속 발전함에 따라 우리 사회가 5년 후에 어떻게 보일지에 대해 생각해야 합니다. 나중에 발생할 많은 문제들은 우리가 오늘날부터 추론할 수 있는 것들이기 때문에 우리는 그것들을 생각해 볼 필요가 있습니다." [후략]

 

*  ChatGPT GPT-3.5 번역.

 

 

 

그럼,

    공유합니다.