AI 기술의 급속한 발전 속에서 그 안전성을 확보하고 잠재적 위험에 대비하기 위한 국제적인 논의의 장이 열린다. ‘2025 인공지능 안전 서울 포럼(SFASS)’이 오는 10월 28일부터 29일까지 서울 호텔 나루 엠갤러리에서 개최된다. 이번 포럼은 ‘보다 안전한 인공지능 세상을 향한 글로벌 협력’을 주제로, 국내외 학계, 산업계, 정부 관계자 등 150여 명의 전문가들이 한자리에 모여 현재 AI 안전 거버넌스, 평가, 그리고 레드티밍(red teaming)의 현황을 진단하고 향후 국제 협력 방안을 심도 있게 논의할 예정이다.
최근 AI 기술은 우리의 삶 곳곳에 깊숙이 침투하며 놀라운 혁신을 가져오고 있지만, 동시에 예상치 못한 부작용이나 오용될 가능성에 대한 우려 또한 커지고 있다. AI 모델의 취약점, 편향성, 그리고 악의적인 활용 가능성은 사회 전반의 안전을 위협할 수 있는 중대한 문제로 대두되고 있다. 이러한 배경 속에서 이번 포럼은 AI 안전 확보라는 근본적인 문제를 해결하기 위한 실질적인 방안을 모색하는 중요한 기회가 될 것으로 기대된다.
행사 첫날인 10월 28일에는 각국의 인공지능안전연구소(AISI) 소장들을 비롯한 핵심 리더들이 참여하여 각 기관의 활동 성과와 향후 계획을 공유하고, 국제 협력의 구체적인 방안을 모색한다. 또한, LG AI연구원, 네이버 클라우드를 포함한 국내 기업 및 앤트로픽(Anthropic), 구글(Google) 등 해외 유수 AI 개발 기업과 기관들이 참여하여 AI 모델의 안전성 확보 및 평가 체계에 대한 논의를 이어간다. 마지막 순서로는 한국 인공지능안전연구소 실무책임자들이 참여하는 ‘Korea AISI 대화 세션’을 통해 한국의 AI 안전 평가, 정책, 연구 추진 방향이 공유될 예정이다.
둘째 날인 10월 29일에는 AI 안전 평가 방법론을 중심으로 한 기술 논의 중심의 워크샵이 진행된다. 엠엘커먼스(MLCommons), METR, 앤트로픽(Anthropic), 에포크 AI(Epoch AI), FLI(Future of Life Institute), 옥스퍼드 대학(Oxford University) 등 세계 주요 AI 평가 기관 및 연구자들이 세션 연사로 참여하여 최신 연구 동향과 기술적 접근 방식에 대한 깊이 있는 논의를 펼칠 예정이다. 더불어, 프론티어 AI 모델을 대상으로 한 실습 기반의 레드티밍 세션이 마련되어 AI 모델의 취약점을 실질적으로 점검하는 시간이 주어진다. 특히, 한국 인공지능안전연구소와 미국 AI 전문 기업 스케일 AI(Scale AI) 간의 MOU 체결식은 AI 안전 연구와 평가 분야에서의 글로벌 협력 기반을 더욱 강화하는 계기가 될 것이다.
이번 포럼은 AI 시스템의 잠재적 위험을 식별하고 평가하며 완화하기 위한 기술적 접근 방안을 모색하고, 국가 간 AI 안전 거버넌스 협력 체계를 더욱 공고히 하는 국제적 논의의 장을 한국이 주도적으로 이끌어간다는 점에서 큰 의의를 갖는다. 이를 통해 AI 기술 발전으로 인한 위험을 최소화하고, 모두에게 안전하고 유익한 AI 세상을 만들어나가는 중요한 발걸음이 될 것으로 전망된다.
About the Author
