규칙 위반: ChatGPT에서 차단하는 방법

OpenAI의 채팅GPT 지난해 11월 공개 이후 전 세계를 강타했다. 인공 지능 기반 챗봇은 프로그래밍, 금융 및 일반 지식을 포함한 여러 분야의 문제를 도울 수 있는 능력으로 전 세계 사용자에게 깊은 인상을 남겼습니다.

GPT-3.5 아키텍처 기반의 대규모 언어 모델로서, ChatGPT의 개발자들은 방대한 양의 텍스트 데이터에 대해 챗봇을 훈련시키고 광범위한 자연어 쿼리 및 작업에 대해 인간과 같은 응답을 이해하고 생성할 수 있도록 했습니다.

사용자는 이력서 작성, 긴 텍스트의 초록 작성, 프로그램 코드 작성 등 다양한 목적으로 ChatGPT를 사용했습니다.

일부는 낭만적인 시를 만들거나 데이트 앱에서 사용할 재치 있는 응답을 생성하는 것과 같은 보다 캐주얼한 용도를 탐색했습니다. 학생들은 AI 챗봇에 대한 경험을 공유하고 숙제, 과제, 심지어 시험에 도움이 되는 훌륭한 리소스로서의 유용성을 밝혔습니다.

ChatGPT는 또 무엇을 할 수 있나요?

ChatGPT는 사용자의 부적절한 행동을 식별할 수 있을 만큼 똑똑하며, 경우에 따라 계정이 금지될 수도 있습니다.

예, 올바르게 읽었습니다. 여러 가지 이유로 AI 챗봇에서 차단될 수 있습니다. 여러 사용자가 OpenAI의 주력 제품 사용이 금지되었다고 보고했습니다. 대부분의 경우 이용 약관 위반으로 인해 계정이 정지되었습니다.

사용을 금지할 수 있는지 직접 물으면, 채팅GPT 부적절한 행위에 연루된 사용자에 대해 사용자를 차단하거나 처벌할 수 있는 권한이 없다고 응답했습니다.

그러나 채팅이 종료되거나 조기에 종료될 수 있는 특정 동작을 나열했습니다. ChatGPT는 공격적인 언어를 사용하거나 증오심 표현을 하는 사용자의 세션을 종료할 수 있습니다.

스팸을 보내거나 채팅을 플러딩하면 플랫폼에서 채팅 세션이 일시 중단됩니다. 채팅GPT 또한 해킹이나 사이버 괴롭힘과 같은 불법적이거나 비윤리적인 목적으로 사용하려는 시도를 용납하지 않는다고 밝혔습니다. 실제로 그러한 행위는 대화 종료 후 추가 조치로 이어질 수 있습니다.

OpenAI에 따르면 이용약관사용자가 약관의 섹션 2, 5, 8 또는 9를 중대하게 위반하는 경우 ChatGPT에서 정지될 수 있습니다.

섹션 2는 사용 요구 사항과 관련이 있습니다. 이 섹션에 따라 사용자는 다음과 같은 방식으로 플랫폼 서비스를 사용할 수 없습니다. 다른 사람의 권리를 침해, 유용 또는 위반합니다.

또한 사용자는 ChatGPT를 사용하여 OpenAI와 경쟁하는 모델을 개발하는 것도 금지됩니다. AI 챗봇을 리버스 엔지니어링하거나 소스 코드 또는 기본 구성 요소를 발견하려는 시도도 사용자 계정이 정지됩니다.

출처: ChatGPT

이용 약관의 섹션 5에는 기밀성, 보안 및 데이터 보호와 관련된 조건이 명시되어 있습니다. ChatGPT와 관련된 기밀 정보를 제3자에게 공개하면 계정이 정지됩니다.

또한 사용자는 플랫폼에 대한 액세스를 보호하기 위해 합리적이고 적절한 조치를 구현해야 합니다. 또한 ChatGPT와 관련된 모든 취약점이나 침해는 즉시 보고되어야 합니다. 섹션 8 및 9는 ChatGPT 사용과 관련된 분쟁 해결 및 일반 조건과 관련이 있습니다.

OpenAI의 이용 약관 읽기,

“귀하가 본 약관을 준수하지 않거나, 귀하의 사용이 당사 또는 제3자에게 보안 위험을 초래하거나, 귀하의 사용이 사기적이거나 당사 또는 제3자가 책임.”

일반적으로 OpenAI가 사용 약관 위반을 감지하면 첫 번째 대응은 사용자에게 경고를 보내는 것입니다. 경고는 사용자에게 부적절한 행동을 알리고 적절한 방식으로 서비스를 사용해야 함을 알려줍니다.

이용 약관을 반복적으로 위반하면 결국 사용자 계정이 완전히 금지되거나 정지됩니다.

한 사용자는 자신의 계정이 금지되었을 때 OpenAI에서 받은 메시지를 Reddit에 공유했습니다. 읽은 메시지,

“철저한 조사 끝에 귀하 또는 귀하의 조직 구성원이 정책을 위반하는 방식으로 OpenAI API를 사용하고 있음을 확인했습니다. 이 위반으로 인해 우리는 개인 조직의 API에 대한 액세스를 즉시 중단합니다.”

위반을 구성하는 요소에 대해 OpenAI는 콘텐츠 정책 위반, 허용되지 않는 사용 사례에 대한 반복적인 시도 또는 지원되지 않는 위치에서 API에 액세스한다고 말했습니다.

출처: ChatGPT

소셜 미디어 사용자는 다양한 이유로 금지된 ChatGPT에 대한 액세스 계정을 공유했습니다.

일부는 AI 기반 챗봇이 의도하지 않은 일을 하도록 탈옥하려 했습니다. 다른 사람들은 챗봇을 속여 부적절한 대화에 참여하도록 시도했습니다.

결론

모든 위법 행위는 OpenAI의 이용 약관 위반으로 간주됩니다. 모든 금지가 영구적인 것은 아니라는 점에 유의하는 것이 중요합니다. OpenAI는 일부 사용자를 일시적으로 정지시키고 ChatGPT에 대한 액세스를 제한할 수 있습니다.

특히 Open AI를 사용하면 금지가 불공정하거나 부적절한 방식으로 시행되었다고 생각하는 경우 사용자가 금지에 대해 이의를 제기할 수 있습니다. 플랫폼의 고객 지원에 연락하여 문제의 측면을 설명할 수 있습니다.

OpenAI는 금지가 검토 또는 조사를 정당화하는지 평가하고 그에 따라 금지를 해제할지 여부를 결정합니다.

차단에 이의를 제기하는 것은 모든 사용자에게 최후의 수단이어야 합니다. 회사는 모든 사용자가 ChatGPT를 사용하는 동안 정중하고 긍정적인 행동을 유지하고 적절한 대화를 보장할 것을 권장합니다.

이것은 AMBCrypto 영어의 번역입니다.