AI 안전, 이제 서울에서 ‘글로벌 협력’으로 더 쉬워진다

AI 안전에 대한 국제적인 논의가 10월 서울에서 본격적으로 펼쳐진다. ‘2025 인공지능 안전 서울 포럼(SFASS)’이 10월 28일부터 29일까지 이틀간 호텔 나루 엠갤러리에서 열리며, 더 안전한 AI 세상을 만들기 위한 글로벌 협력 방안을 모색한다. 이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)’을 주제로, 전 세계 학계, 산업계, 정부 관계자 등 150여 명의 전문가들이 참여한다.

이번 포럼을 통해 시민들은 AI 안전 거버넌스, 평가, 그리고 레드티밍*에 대한 최신 동향을 파악하고, AI 기술 발전과 더불어 우리 사회가 나아갈 안전한 방향에 대한 통찰을 얻을 수 있다. 특히, AI 모델의 취약점, 편향, 악용 가능성을 미리 파악하고 개선하는 레드티밍 과정에 대한 실질적인 정보는 AI 기술을 더욱 신뢰하고 안전하게 활용하는 데 도움을 줄 것이다.

행사 첫날인 10월 28일에는 각국의 AI 안전 연구소와 프론티어 AI 모델 개발 기관, 그리고 AI 평가 전문 기관의 리더들이 참여하여 각자의 성과와 계획을 발표한다. 일본, 싱가포르, 유럽연합(EU) 등 주요 국가의 AI 안전 연구소 소장들이 모여 국제 협력의 구체적인 방안을 논의할 예정이다. 또한 LG AI연구원, 네이버 클라우드와 같은 국내 기업뿐만 아니라 앤트로픽(Anthropic), 구글(Google) 등 해외 유수 기업 및 기관들도 참여하여 AI 모델의 안전성 확보와 평가 체계에 대한 깊이 있는 논의를 이어간다. 한국 AI 안전 연구소 실무 책임자들은 ‘Korea AISI 대화 세션’을 통해 한국의 AI 안전 평가, 정책, 연구 추진 방향을 공유할 계획이다.

둘째 날인 10월 29일에는 AI 안전 평가 방법론에 초점을 맞춘 기술 논의 중심의 워크샵이 진행된다. 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계 유수의 AI 평가 기관 및 연구자들이 연사로 나선다. 이 자리에서는 프론티어 AI 모델을 대상으로 한 실습 기반 레드티밍 세션도 열린다. 특히, 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 MOU 체결식이 예정되어 있어, AI 안전 연구와 평가 협력을 위한 글로벌 기반 강화에 대한 기대를 모은다.

이번 포럼은 AI 시스템의 잠재적 위험을 식별, 평가, 완화하기 위한 기술적 접근 방식을 모색하고, 국가 간 AI 안전 거버넌스 협력 체계를 더욱 굳건히 하는 중요한 국제적 논의의 장이 될 것으로 기대된다.

*레드티밍(red teaming): 모의 공격을 통해 AI 모델의 취약점, 편향, 악용 가능성을 검증하고 위험 요인을 선제적으로 식별·개선하는 과정. AI 안전 관리의 핵심 절차로 자리 잡고 있다.

행사 개요:

– 행사명: 2025 인공지능 안전 서울 포럼(2025 Seoul Forum on AI Safety & Security)

– 주제: 보다 안전한 AI 세상을 향한 글로벌 협력(Global Cooperation for a Safer AI Future)

– 일자: 2025년 10월 28일(화)~29일(수)

– 장소: 호텔 나루 서울 엠갤러리(나루볼룸)

– 주최/주관: 과학기술정보통신부/한국전자통신연구원 인공지능안전연구소