데일리매거진 - ‘보다 안전한 인공지능 세상을 향한 글로벌 협력′…′2025 인공지능 안전 서울 포럼′ 28일 개막

-AI 안전 거버넌스·평가·레드티밍 등 논의
-글로벌 협력의 장 마련

▲ 행사 메인 포스터 [제공/인공지능 안전 서울 포럼]

 

과학기술정보통신부가 주최하고, 한국전자통신연구원 인공지능안전연구소가 주관하는 ‘2025 인공지능 안전 서울 포럼(Seoul Forum on AI Safety & Security, 이하 SFASS)’이 28일부터 29일까지 서울 호텔 나루 엠갤러리에서 열린다.

이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력’을 주제로, 국내외 학계·산업계·정부 관계자 등 150여 명의 전문가들이 모여 인공지능 안전 거버넌스·평가·레드티밍의 현주소를 점검하고 국제 협력 방향을 논의한다.

행사 첫날인 28일에는 AI 안전 확보를 위한 각국 인공지능안전연구소의 활동, 프론티어 AI 모델 개발 기관의 노력, AI 평가 전문 기관의 평가 체계와 방법 등을 소개한다.

일본, 싱가포르, 유럽연합(EU) 등의 각국 인공지능안전연구소(AISI) 소장 등 핵심 리더들이 참여해 각 기관의 성과와 계획 그리고 국제 협력의 실질적 방안을 모색한다.

또한 국내 LG AI연구원, 네이버 클라우드와 국외 앤트로픽(Anthropic), 구글(Google), 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등 AI 개발 기업과 기관들이 참여해 AI 모델의 안전성 확보와 평가 체계에 대한 논의를 이어갈 예정이다.
 

▲ 사진=주요 해외 연사 프로필 [제공/인공지능 안전 서울 포럼]

마지막으로 한국 인공지능안전연구소 실무책임자들이 참여하는 ‘Korea AISI 대화 세션’을 통해 한국의 AI 안전 평가·정책·연구 추진 방향을 공유한다.

둘째 날인 29일에는 AI 안전 평가 방법론을 주제로 한 기술 논의 중심의 워크샵이 열린다.

엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계 주요 AI 평가기관 및 연구자들이 세션 연사로 참여한다.

또한 이날 워크샵에서는 프론티어 AI 모델을 대상으로 한 실습 기반의 레드티밍 세션이 진행된다.

특히 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 MOU 체결식을 통해 AI 안전 연구와 평가 협력의 글로벌 기반을 강화할 계획이다.

이번 포럼은 AI 시스템의 위험을 식별·평가·완화하기 위한 기술적 접근을 모색하고, 국가 간 AI 안전 거버넌스 협력체계를 공고히 하는 국제적 논의의 장을 한국이 주도적으로 열어간다는 점에서 의미가 크다.

[저작권자ⓒ 데일리매거진. 무단전재-재배포 금지]