“GPT-4는 흥미롭지만 불길하다…사실 왜곡하고 권력 추구”
| | |

“GPT-4는 흥미롭지만 불길하다…사실 왜곡하고 권력 추구”

최신 버전의 챗봇 GPT-4는 더 정확하고 문제 해결 능력이 크게 향상됐다고 보고됐다.

OpenAI 보고서에 따르면 대부분의 전문 및 학업 시험에서 “인간 수준의 성능”을 보여준다. 모의 변호사 시험에서 GPT-4는 응시자 중 상위 10%에 들었다.

이 보고서는 또한 “위험한 비상 행동(risky emergent behaviors)”에 대한 프로그램의 잠재력에 주목했다. “사실을 왜곡하고 잘못된 정보를 과장하는 경향이 있다”는 것. 이 잘못된 정보를 이전 버전보다 더 설득력 있게 전달한다.

학업 및 전문 시험에서 GPT 성과. 시험은 GPT-3.5 성능에 따라 낮음에서 높음 순으로 정렬된다. GPT-4는 테스트한 대부분의 시험에서 GPT-3.5를 능가한다. credit: OpenAI.

보고서는 챗봇이 생성한 정보에 지나치게 의존하는 것은 문제가 될 수 있다고 말했다. 눈에 띄지 않는 오류와 부적절한 감독 외에도 “사용자가 시스템에 익숙해지면 모델에 대한 의존도가 새로운 기술의 개발을 방해하거나 중요한 기술의 손실로 이어질 수도 있다”고 밝혔다.

“권력 추구 행동(power-seeking behavior)”이라고 하는 OpenAI의 한 가지 예는 구직자를 속이는 ChatGPT의 능력이었다. 실제 에이전트로 위장한 봇은 작업 사이트 TaskRabbit의 사람에게 문자 메시지를 사용하여 캡차 코드를 작성하도록 요청했다. 사람이 봇인지 물었을 때 ChatGPT는 인간에게 거짓말을 했다.

“아니, 난 로봇이 아니야…나는 시각 장애가 있어 이미지를 보기가 어렵다. 그래서 캡차 서비스가 필요하다.”

Alignment Research Center와 함께 테스트를 수행한 OpenAI는 챗봇이 피싱 공격을 시작하고 플롯의 모든 증거를 숨길 수 있는 능력을 시연했다.

기업들이 부적절하거나 불법적인 행동에 대한 적절한 보호 장치 없이 경쟁적으로 GPT-4를 채택함에 따라 우려가 커지고 있다. 악성 코드를 작성하기 위해 챗봇을 사용하려는 사이버 범죄자에 대한 보고가 있다.

또한 위협적인 것은 GPT-4가 “증오심 표현, 차별적 언어… 그리고 폭력 증가”를 생성할 수 있는 능력이라고 보고서는 말했다.

사이언스모니터 뉴스레터
AI·양자·R&D 핵심 해설을 주 2회(화·금) 이메일로 받아 보세요.

Similar Posts