코드 합성 대규모 언어 모델을 위한 위험 분석 프레임워크

다양한 코드베이스에 대해 훈련된 LLM(대형 언어 모델)인 Codex는 코드를 합성하고 생성하는 능력에서 이전 기술 수준을 능가합니다. Codex는 많은 이점을 제공하지만 그러한 규모로 코드를 생성할 수 있는 모델에는 상당한 제한, 정렬 문제, 오용 가능성 및 불안정한 영향을 미치거나 오용될 수 있는 기술 분야의 진행 속도를 높일 가능성이 있습니다. 잠재적인. 그러나 그러한 안전 영향은 아직 알려지지 않았거나 계속 탐구되어야 합니다. 본 논문에서는 Codex와 같은 모델의 배포가 기술, 사회적, 정치적, 경제적으로 부과할 수 있는 위험이나 안전 위험을 발견하기 위해 OpenAI에서 구축한 위험 분석 프레임워크를 간략하게 설명합니다. 분석은 사양 프롬프트의 복잡성과 표현성에 대한 고급 코드 생성 기술의 용량과 인간 능력에 비해 이를 이해하고 실행할 수 있는 능력을 결정하는 새로운 평가 프레임워크를 통해 이루어집니다.