국내외 150여 명 전문가 참여, AI 평가·레드티밍·안전 거버넌스 논의
스케일 AI와 MOU 체결 통해 글로벌 AI 안전 협력 강화

과학기술정보통신부(장관 배경훈)가 주최하고 한국전자통신연구원 인공지능안전연구소(소장 김명주)가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’이 10월 28일부터 29일까지 서울 호텔 나루 엠갤러리에서 열린다.

이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’을 주제로, 국내외 학계·산업계·정부 관계자 등 150여 명의 전문가가 참석한다. 참가자들은 인공지능 안전 거버넌스, 평가, 레드티밍(red teaming)의 현황을 공유하고 국제 협력 방향을 논의한다.

첫날인 28일에는 일본, 싱가포르, 유럽연합(EU) 등 각국 인공지능안전연구소(AISI) 소장들이 참석해 각 기관의 AI 안전 확보 활동과 성과를 발표한다. 또한 LG AI연구원, 네이버클라우드, 앤트로픽(Anthropic), 구글(Google), 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등 국내외 주요 AI 기업과 기관이 참여해 모델 안전성과 평가 체계를 주제로 토론을 이어간다.

이날 마지막 세션에서는 한국 인공지능안전연구소 실무책임자들이 참여하는 ‘Korea AISI 대화 세션’이 열려, 한국의 AI 안전 평가·정책·연구 추진 방향을 공유할 예정이다.

둘째 날인 29일에는 AI 안전 평가 방법론을 주제로 한 기술 중심 워크숍이 진행된다. 엠엘커먼스(MLCommons), METR, 앤트로픽, 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드대 등 주요 글로벌 연구기관과 전문가들이 연사로 나선다. 프론티어 AI 모델을 대상으로 한 실습 기반 레드티밍 세션도 마련되며, 한국 인공지능안전연구소와 미국 스케일 AI 간의 MOU 체결식도 함께 진행된다.

과기정통부는 이번 포럼을 통해 AI 시스템의 위험을 식별·평가·완화하는 기술적 접근법을 논의하고, 국가 간 AI 안전 거버넌스 협력체계를 강화할 계획이다. 한국이 국제적 AI 안전 논의를 주도하는 계기가 될 것으로 기대된다.

CWN 신현수 기자
hs.shin.1716@gmail.com

 

[ⓒ CWN(CHANGE WITH NEWS). 무단전재-재배포 금지]