네이버, AI 위험 시 서비스 중단 - 국내 최초 안전성 체계 구축!
Last Updated :
AI 안전성 체계 - 네이버의 노력
네이버가 AI 안전성 체계를 설계하고 실천하는 방안을 소개하였습니다. 이러한 노력은 AI 시스템이 초래할 수 있는 위험을 효과적으로 관리하기 위한 것입니다.
네이버 ASF의 주요 내용
네이버 ASF는 '통제력 상실 위험'과 '악용 위험'을 중점적으로 다루고 있습니다. 이를 위해 AI 시스템의 위험을 주기적으로 평가하고, 관리하는 대응 체계를 구축하였습니다.
- 프런티어 AI와 3개월마다의 위험평가
- AI 위험 평가 매트릭스를 활용한 위험 대응
- 문화적 다양성을 반영한 AI 안전성 체계
- 내부적으로 다양한 평가 방식 수립
- 안전조치를 통한 위험 관리
AI 안전성 체계의 발전 방향
| 핵심 내용 | 개선 방안 | 구체적 계획 |
| 소버린 AI 개발 | 특정 문화권 위험 식별 | 문화권 특성을 고려한 벤치마크 도출 |
| AI 안정성 프레임워크 고도화 | 전 세계적인 AI 안전성 적용 | 사회기술적 맥락을 고려한 매트릭스 형태 구축 |
네이버는 AI 안전성 체계를 향후 조직적, 기술적으로 보다 발전시켜 문화적 다양성을 포함한 안전성을 확보할 예정입니다.
네이버의 안전 조치
네이버는 AI 안전성 확보를 위해 실제 위험이 판단될 경우 안전조치를 통해 위험을 완화하고, 그렇지 못할 경우에는 모델 또는 서비스의 배포를 중단하여 위험을 관리할 계획입니다.
네이버, AI 위험 시 서비스 중단 - 국내 최초 안전성 체계 구축! | 제이한나 : https://jhannahnail.com/1242