AI 안전, 이제 서울에서 국제적 해법 찾는다

AI 안전 확보를 위한 글로벌 협력이 본격화된다. ‘2025 인공지능 안전 서울 포럼(SFASS)’이 오는 10월 28일부터 29일까지 이틀간 서울 호텔 나루 엠갤러리에서 개최된다. 이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력’이라는 주제 아래, 전 세계 AI 안전 전문가들이 한자리에 모여 AI 안전 거버넌스, 평가, 그리고 레드티밍*의 현주소를 짚어보고 실질적인 국제 협력 방안을 모색하는 자리로 마련된다.

이번 포럼에 참여하는 국내외 전문가들은 학계, 산업계, 정부 관계자 등 150여 명에 달한다. 첫날인 10월 28일에는 AI 안전 확보를 위한 각국의 인공지능안전연구소(AISI) 활동이 소개되며, 프론티어 AI 모델 개발 기관들의 노력과 AI 평가 전문 기관의 평가 체계 및 방법론이 공유될 예정이다. 특히 일본, 싱가포르, 유럽연합(EU) 등 주요 국가의 AISI 소장들을 비롯한 핵심 리더들이 참여하여 각 기관의 성과와 향후 계획, 그리고 국제 협력의 구체적인 방안을 논의한다. 또한, 국내에서는 LG AI연구원, 네이버 클라우드가, 해외에서는 앤트로픽(Anthropic), 구글(Google), 세이퍼 AI(Safer AI), 스케일 AI(Scale AI), CARMA(Center for AI Risk Management & Alignment) 등 AI 개발 기업 및 기관들이 참여하여 AI 모델의 안전성 확보와 평가 체계에 대한 심도 있는 논의를 이어간다. 한국 인공지능안전연구소 실무 책임자들은 ‘Korea AISI 대화 세션’을 통해 한국의 AI 안전 평가, 정책, 연구 추진 방향을 공유하며 글로벌 논의에 기여할 예정이다.

둘째 날인 10월 29일에는 AI 안전 평가 방법론을 주제로 한 기술 논의 중심의 워크샵이 진행된다. 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계적인 AI 평가 기관 및 연구자들이 세션 연사로 나서 AI 안전 기술 발전에 대한 통찰을 나눈다. 특히 이날 워크샵에서는 프론티어 AI 모델을 대상으로 한 실습 기반의 레드티밍 세션이 진행되어 AI 모델의 취약점을 파악하고 개선하는 실제적인 경험을 공유한다. 더 나아가 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 업무협약(MOU) 체결식이 예정되어 있어, AI 안전 연구 및 평가 협력을 위한 글로벌 기반 강화에 대한 기대감을 높인다.

이번 포럼은 AI 시스템의 위험을 식별, 평가, 완화하기 위한 기술적 접근법을 모색하고, 국가 간 AI 안전 거버넌스 협력 체계를 더욱 공고히 하는 국제적 논의의 장을 한국이 주도적으로 마련한다는 점에서 큰 의미를 가진다.

*레드티밍(red teaming): 모의 공격을 통해 AI 모델의 취약점, 편향, 악용 가능성을 검증하고 위험 요인을 선제적으로 식별 및 개선하는 과정으로, AI 안전 관리의 핵심 절차로 자리 잡고 있다.

행사 개요는 다음과 같다.

행사명: 2025 인공지능 안전 서울 포럼(2025 Seoul Forum on AI Safety & Security)

주제: 보다 안전한 AI 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)

일자: 2025년 10월 28일(화)~29일(수)

장소: 호텔 나루 서울 엠갤러리(나루볼룸)

주최/주관: 과학기술정보통신부/한국전자통신연구원 인공지능안전연구소