인공지능(AI) 기술 발전의 핵심 동력으로 꼽히는 오픈소스가 프라이버시 침해 위험을 안고 있다는 우려가 커지고 있다. 이러한 가운데, 개인정보보호위원회(이하 개인정보위)가 오픈소스 AI의 안전한 활용 방안을 논의하기 위한 국제적인 자리를 마련하며 주목받고 있다. 이는 낮은 비용으로 높은 성능을 구현할 수 있는 오픈소스 모델에 대한 산업 현장의 높은 관심과 수요를 확인했지만, 동시에 지속 가능한 오픈소스 생태계를 위한 프라이버시 가드레일 마련의 필요성이 제기된 데 따른 조치다.
개인정보위는 글로벌 프라이버시 총회(GPA) 개막에 앞서 ‘오픈소스 데이’를 개최했다. 이 자리에는 구글, 메타, 마이크로소프트, 오픈AI 등 글로벌 AI 기업과 국내 AI 기업, 해외 감독기구 관계자 등 120여 명이 참석하여 오픈소스 AI 생태계와 프라이버시 보호에 대한 심도 깊은 논의를 진행했다. 앞서 개인정보위는 오픈소스 모델을 포함한 주요 대규모언어모델(LLM)을 대상으로 실태 점검을 실시하고, 오픈소스 AI 환경에서의 프라이버시 리스크를 파악한 바 있다. 이러한 경험을 바탕으로, 개인정보위는 ‘AI 프라이버시 리스크 관리 모델’ 및 ‘생성형 AI 개인정보 처리 안내서’를 발간하며 위험 관리와 책임 배분 방안을 구체화했다.
이날 행사에 참여한 개발자, 연구자, 기업 관계자들을 대상으로 진행된 간이 설문조사 결과에서도 오픈소스 AI의 중요성과 함께 안전성 확보에 대한 요구가 높게 나타났다. 설문 참여자의 약 62%가 오픈소스 도입 및 활용 경험이 있다고 응답했으며, 오픈소스 모델 미세조정 시 안전성을 고려한 경험이 있다는 응답도 77%에 달했다. 이러한 현장의 목소리는 오픈소스 AI 활용 과정에서 개인·민감정보 필터링 및 검증 절차, 미세조정 시 고려사항, 레드팀 테스트 설계 방안 등 안전성과 신뢰성을 보장하기 위한 구체적인 방안 마련의 시급성을 시사한다.
각 글로벌 AI 기업들은 자사의 오픈소스 생태계와 실제 적용 경험을 공유하며 안전성 확보를 위한 다양한 도구와 솔루션을 소개했다. 구글은 비용 효율적인 오픈 소스 모델 운영을 위한 플랫폼과 신뢰성·안전성 확보 도구를, 마이크로소프트는 에이전트 AI 구축을 위한 오픈소스 활용 가능성을 제시했다. 또한, 네이버는 자사 오픈소스 모델과 함께 안전한 오픈소스 활용을 위한 도구들을 소개했으며, 오픈AI는 오픈소스 모델의 경제·사회적 가치와 함께 안전성에 대한 우려 및 책임성, 글로벌 논의의 필요성을 제기했다. 셀렉트스타는 오픈소스 모델·기술을 활용한 AI 신뢰성 검증 솔루션을 선보이며 오픈소스 생태계 확산에 기여한 사례를 공유했다.
개인정보위를 비롯한 영국, 이탈리아, 브라질 등 4개국 개인정보 감독기구 관계자들은 오픈소스 AI 생태계에서의 프라이버시 고려사항에 대해 논의하며, 개방성과 투명성에 기반한 신뢰할 수 있는 AI 구현의 필요성에 공감대를 형성했다. 특히, 향후 자율성에 기반한 에이전틱(Agentic) AI 시대가 도래할 것이라는 전망 속에서, 안전한 AI 생태계 구축을 위한 국제적 차원의 지속적인 논의와 협력의 중요성에 뜻을 모았다. 최장혁 개인정보위 부위원장은 이번 행사가 오픈소스 AI 생태계와 개인정보 보호를 함께 고민하는 국내 첫 공개 논의의 장으로서 의미가 크다고 강조하며, 기업과 연구자들이 안심하고 오픈소스를 활용할 수 있도록 현장의 목소리를 정책에 적극 반영하겠다는 의지를 밝혔다.
About the Author
