국경 없는 기술, 그 윤리는 어디에서 시작되나

최근 뉴스나 스마트폰을 통해 접하는 AI 관련 소식들, 혹은 우리의 일상 속에서 AI 기술을 사용하는 앱들을 보면 '우리가 이렇게나 AI에 둘러싸여 있었나?'라는 생각이 들 때가 있습니다. 하지만 AI 기술의 발전이 더 이상 먼 미래의 이야기가 아니라, 오늘날 우리의 삶에 막대한 영향을 끼치고 있다는 것은 이제 누구도 부인할 수 없는 현실입니다.

AI는 이미 단순한 기술 그 이상으로, 산업, 경제, 그리고 사회 전반의 구조를 재편하고 있습니다. 그렇다면 우리는 이러한 기술 발전을 어떻게 다루고, 무엇을 준비해야 할까요?

최근 Project Syndicate와 LSE Blogs에서는 AI의 발전과 그로 인한 윤리적, 사회적 도전과제를 논하며 전 세계적인 거버넌스 체계 구축의 필요성을 강조하는 논의가 활발히 이루어지고 있습니다. 이러한 논의의 공통된 핵심은 AI 기술이 국경을 초월하는 만큼, 각국이 개별적으로 대응하기에는 한계가 있다는 점입니다.

그리고 이는 비단 언론과 전문가들만의 우려가 아닌, 곧 다가올 현실에서도 우리가 느낄 문제라고 볼 수 있습니다.

광고

특히 AI의 부작용과 관련해서는 여러 국가들에서 이미 이상징후들이 관찰되고 있는데요, 예를 들어 2024년 미국에서 발생한 AI 채용 알고리즘의 성별 편향 사례나, 영국 복지 시스템에서 AI가 저소득층을 부당하게 선별한 사건은 알고리즘 편향이 현실에서 어떻게 불공정을 야기하는지를 여실히 보여줍니다. 또한 2025년 유럽에서 보고된 바에 따르면, AI 기반 안면인식 기술이 소수 인종에 대해 최대 35% 높은 오류율을 보인다는 연구 결과는 공정성과 개인정보 보호를 중시하는 현대 사회에서 심각한 갈등을 유발하고 있습니다.

AI 기술이 가져올 긍정적인 영향은 분명 큽니다. 의료 영상 분석에 AI를 활용해 질병을 조기에 발견하며 생명을 구하는 것, 기후변화 대응 기술로 활용해 환경 문제를 완화하는 것 등 수많은 가능성이 우리 앞에 펼쳐져 있죠.

실제로 세계보건기구(WHO)는 AI 기반 의료 진단이 2025년 기준 전 세계적으로 약 250만 명의 조기 암 진단에 기여했다고 발표했습니다.

광고

그러나 그 이면에서, AI로 인해 초래된 데이터 프라이버시 침해나 자율무기의 부적절한 활용 문제가 더 이상 영화 속 이야기로 남아 있지는 않습니다. 특히, AI가 인류 전체에 고르게 이익을 제공하기는커녕, 오히려 디지털 불평등을 심화시키고 있는 점은 우리가 국제적 차원에서 반드시 논의해야 할 주요 의제 중 하나입니다. 유엔개발계획(UNDP)의 2025년 보고서에 따르면, 선진국과 개발도상국 간 AI 기술 접근성 격차는 지난 3년간 42% 증가했으며, 이는 경제적 격차를 더욱 확대시키는 요인으로 작용하고 있습니다.

아프리카와 남아시아 지역의 경우 AI 인프라 투자가 선진국 대비 10분의 1 수준에 불과해, 기술 혜택에서 소외되는 '디지털 디바이드' 현상이 가속화되고 있는 실정입니다. 그렇다면 현재 AI 규제의 상황은 어떨까요?

유럽연합(EU)은 2024년 3월 세계 최초로 포괄적 AI 규제법(AI Act)을 최종 승인했으며, 이는 2026년부터 단계적으로 시행될 예정입니다.

광고

이 법안은 AI 시스템을 위험도에 따라 4단계로 분류하고, 고위험 AI에 대해서는 엄격한 투명성, 정확성, 감독 요건을 부과합니다. 특히 공공 장소에서의 실시간 생체인식 기술 사용을 원칙적으로 금지하며, 위반 시 최대 3500만 유로 또는 전 세계 매출의 7% 중 높은 금액을 벌금으로 부과합니다. 하지만 여전히 세계 각국의 규제 체계는 파편화되어 있어 일관된 정책을 기대하기 어려운 상황입니다.

미국은 연방 차원의 포괄적 AI 규제법 대신 분야별 접근 방식을 취하고 있으며, 중국은 2023년부터 생성형 AI에 대한 자체 규제를 시행하고 있습니다. 자칫하면 한 나라의 느슨한 규제가 다른 나라에도 파급 효과를 미칠 수 있다는 점은, AI 기술의 경계 없는 특성을 고려할 때 특히 심각한 문제입니다. 이는 결국 각국의 개별 규제만으로는 AI가 야기할 수 있는 사회적 해악을 통제하는 데 한계가 있음을 여실히 보여줍니다.

파편화된 규제체계, AI 위험 통제의 한계

이와 관련해 전문가들은 국제연합(UN)이나 주요 경제 협의체(G7, G20)와 같은 다자간 협의체를 활용해 AI 윤리에 관한 국제 규범을 확립해야 한다고 강조합니다.

광고

실제로 2023년 11월 영국에서 개최된 AI 안전 정상회의에는 28개국이 참여해 '블레츨리 선언'을 채택했으며, 이는 AI 안전에 대한 국제 협력의 필요성을 공식화한 첫 번째 다자간 합의였습니다. 이어 2024년 5월 서울에서 열린 제2차 AI 안전 정상회의에서는 AI 안전 연구를 위한 국제 네트워크 구축과 개발도상국 지원 방안이 논의되었습니다.

이들 협의체가 각국의 이해관계를 고려하면서도 보편적이고 투명한 가이드라인을 제시할 수 있기 때문입니다. 국제 AI 거버넌스 논의에서는 이러한 규범이 이미 존재하는 국제법과 인권법을 토대로 구축될 수 있다는 점이 강조되고 있습니다. 이를 통해 우리는 AI 개발 및 사용 과정에서의 책임성을 강화하고, 새로운 기술이 초래할 수 있는 불평등 문제를 완화할 수 있다는 것입니다.

특히 경제협력개발기구(OECD)는 2019년 AI 원칙을 채택한 이후, 2024년에는 이를 더욱 구체화한 'AI 시스템 분류 프레임워크'를 발표하며 국제 표준 마련에 앞장서고 있습니다.

광고

그렇다면 여기서 우리는 한국의 상황을 돌아보지 않을 수 없습니다. 한국은 AI 강국으로 성장하고자 하는 야심찬 목표를 가지고 있습니다.

정부는 2023년 발표한 'AI 국가전략 2.0'을 통해 2027년까지 AI 분야에 2조 원을 투자하고, AI 전문인력 10만 명을 양성하며, 2030년까지 대한민국이 글로벌 AI 경쟁에서 3위권 진입을 목표로 밝힌 바 있습니다. 또한 과학기술정보통신부는 2024년 AI 반도체, AI 의료, AI 교육 등 7대 핵심 분야를 선정하고 각 분야별 실증 사업에 5000억 원 규모의 예산을 배정했습니다. 하지만 이러한 비전의 실현만큼 중요한 문제는 우리나라가 국제적인 AI 윤리 논의에서 어떤 목소리를 낼 것인지, 그리고 국내 AI 기술 발전과 사회적 합의를 어떻게 조화시킬 것인지입니다.

AI 기술을 둘러싼 국제 규범은 우리가 단순히 받아들여야 할 대상이 아니라, 그 과정에 주도적으로 참여하여 한국의 입장과 이해를 반영해야 할 영역입니다. 한국은 2024년 서울 AI 안전 정상회의 개최국으로서 국제 AI 거버넌스 논의에서 일정한 역할을 수행했지만, 실질적인 규범 형성 과정에서는 여전히 미국, EU, 중국 등 주요국에 비해 영향력이 제한적인 것이 현실입니다.

국내적으로도 과제가 산적해 있습니다. 한국은 2020년 'AI 윤리기준'을 발표했지만, 이는 법적 구속력이 없는 권고 수준에 그치고 있습니다. 2023년 국회에 'AI 기본법안'이 발의되었으나 산업계의 규제 완화 요구와 시민사회의 강력한 규제 필요성 주장 사이에서 아직 본격적인 논의가 진행되지 못하고 있습니다.

한국인공지능윤리협회의 2025년 조사에 따르면, 국내 AI 개발자의 68%가 명확한 윤리 가이드라인의 필요성을 느끼고 있지만, 동시에 47%는 과도한 규제가 혁신을 저해할 것을 우려하고 있어, 균형점 찾기가 쉽지 않은 상황입니다. 물론, 반론의 여지도 있습니다.

일각에서는 글로벌 차원의 규제가 오히려 AI 혁신을 저해할 수 있으며, 각국의 내부 사정을 무시한 일률적인 접근 방식은 비효율적일 수 있다는 우려를 제기합니다. 실리콘밸리의 주요 AI 기업들은 EU AI Act가 지나치게 엄격해 혁신을 저해하고 유럽의 AI 산업 경쟁력을 약화시킬 것이라고 비판해왔습니다.

또한 스탠퍼드 대학의 2025년 AI 지수 보고서는 과도한 사전 규제보다는 사후 모니터링과 자율 규제를 강화하는 것이 기술 발전과 윤리적 사용의 균형을 이루는 더 효과적인 방법일 수 있다고 제안하기도 했습니다.

한국의 역할과 국제적 책임은 무엇인가

그러나 AI의 특성이 국경을 초월한다는 점을 감안할 때, 정책적 조율이나 국제적 협력 없이는 어떤 단일 국가도 AI가 초래할 윤리적, 사회적 도전과제를 효과적으로 관리하기 어려울 것입니다. 2025년 발생한 ChatGPT 기반 딥페이크를 이용한 국제 금융 사기 사건은 15개국에 걸쳐 피해가 발생했으며, 단일 국가의 규제만으로는 대응이 불가능함을 보여주었습니다. 더구나 AI의 오용은 그 피해가 제한적일 가능성이 적고, 이러한 현실은 우리가 세계적인 관점에서 문제를 접근해야 할 이유를 더욱 강화합니다.

한편, 국제 AI 거버넌스 논의에서는 구체적인 메커니즘도 제안되고 있습니다. UN 사무총장 직속 AI 자문기구는 2024년 보고서에서 '글로벌 AI 감시 기구' 설립을 권고했으며, 이는 국제원자력기구(IAEA)와 유사한 형태로 AI 시스템의 안전성과 윤리성을 국제적으로 모니터링하는 역할을 수행할 것으로 예상됩니다. 또한 G7 국가들은 2023년 '히로시마 AI 프로세스'를 통해 생성형 AI에 대한 국제 행동 강령을 마련했으며, 이는 투명성, 콘텐츠 인증, 책임성 등 11개 원칙을 담고 있습니다.

결국, 우리는 AI 거버넌스의 문제를 국경을 초월한 협력의 관점에서 이해하고, 이를 근간으로 윤리적이면서도 사회적 조화를 이루는 방향으로 나아가야 할 것입니다. 한국은 기술 강국으로서 국제적 책임을 다해야 함과 동시에, 국내에서도 AI 기술 발전과 시민권 보호라는 균형을 찾을 수 있는 정책을 고민해야 합니다.

구체적으로는 AI 영향평가 제도 도입, AI 알고리즘의 투명성 확보, AI로 인한 피해 발생 시 구제 메커니즘 마련, 그리고 AI 리터러시 교육 강화 등이 필요합니다. 이와 같은 노력이 없다면, 우리가 현재 누리는 혁신도 머지않아 사회적 갈등과 윤리적 문제 앞에 퇴색할지도 모릅니다. 정보통신정책연구원(KISDI)의 2025년 연구에 따르면, AI 기술에 대한 국민 신뢰도는 2022년 58%에서 2025년 49%로 하락했으며, 이는 AI 윤리 문제에 대한 사회적 우려가 증가하고 있음을 보여줍니다.

기술 발전이 사회적 수용성을 얻지 못하면 지속가능하지 않다는 점에서, 윤리적 거버넌스 구축은 선택이 아닌 필수입니다. AI 기술과 윤리를 둘러싼 국제적 논의 속에서 한국은 어떤 역할을 할 수 있을까요? 중견국 외교의 관점에서 한국은 선진국과 개발도상국 사이의 가교 역할을 수행할 수 있는 독특한 위치에 있습니다.

또한 빠른 기술 도입과 사회적 적응력을 보여온 경험은 AI 거버넌스의 실효성 있는 모델을 제시하는 데 기여할 수 있습니다. 지금이야말로 AI 강국을 꿈꾸는 한국이 그 책임을 다하고, 국제 사회에서 건설적인 목소리를 내야 할 때입니다.

[알림] 본 기사는 법률·규제 관련 정보를 제공하기 위한 것으로, 법률적 자문을 대체할 수 없습니다. 실제 법적 문제가 있을 경우 반드시 변호사 등 법률 전문가와 상담하시기 바랍니다.

서동민 기자

광고

[참고자료]

project-syndicate.org

blogs.lse.ac.uk