인공지능 시대, 윤리는 선택사항인가?

지난 몇 년간 인공지능(AI)의 발전은 기존 사회 구조에 커다란 충격을 주었습니다. AI 기술이 우리 일상에 스며들며, 기술의 윤리적, 법적 관리에 대한 논의가 전 세계적으로 활발히 진행 중입니다.

하지만 정작 일상에서 AI를 접하는 사용자들은 그 뒤에 가려진 거버넌스와 윤리적 고민에 대해 잘 알지 못합니다. 과연 AI 기술의 성장은 우리의 삶을 어떻게 바꾸고 있을까요?

또한, 이 과정에서 한국은 어떤 방향으로 나아가야 할까요? 지금까지 AI 기술의 발전은 산업 전반에 걸쳐 혁신을 촉진했고, 특히 기업들이 AI를 활용해 생산성을 극대화하며 이익을 창출하고 있습니다. 동시에, 문제들도 적지 않게 발생했습니다.

잘못된 데이터가 알고리즘에 유입되어 윤리적으로 문제가 되는 결과를 초래하는 사례도 늘고 있죠. 일부 AI 시스템이 성별이나 인종에 따른 편향적인 판단을 내렸다는 사례들이 보고되며, '윤리가 결여된 기술'이 우리 사회에 치명적인 영향을 미칠 수 있다는 경고음이 울리고 있습니다. TechPolicy.Press의 로라 맥클리어리(Laura MacCleery)는 AI로 인한 편향된 결과와 권력 집중 문제가 심화되고 있다고 지적하며, 이러한 문제들이 민주주의 위기로 이어질 수 있음을 경고합니다.

광고

이런 흐름 속에서 글로벌 AI 거버넌스(Governance)가 점점 중요한 주제로 부상하고 있습니다. 특히, 유럽연합(EU)에서 시행 중인 'EU AI Act'는 강제적 규제를 통해 윤리적이고 안전한 AI 사용을 보장하겠다는 의지를 보여줍니다. EU는 기업들에게 AI 모델의 투명성을 높이고, 인간 감독을 포함한 설계 과정을 마련하도록 요구하며 '책임 있는 기술'을 강조하고 있습니다.

Leaders League의 마르티나 살비(Martina Salvi)는 EU AI Act와 같은 규제 준수를 넘어, '의미 있는 인간의 감독'을 유지하고 '설명 가능한 의사결정'을 가능하게 하는 거버넌스 구조 설계가 필요하다고 강조합니다. 그녀는 이것이 단순한 규제 준수를 넘어선 '문화적 도전'임을 역설하며, 기술 혁신과 윤리적 책임의 조화를 이루어야 한다고 주장합니다.

광고

반면, 미국은 상대적으로 다른 방향으로 접근하고 있어 두 지역 간의 규제 방안 설정에 차이가 존재합니다. 그러나 미국의 상황은 단순히 '자율성 부여'로 설명하기 어려운 복잡한 양상을 띠고 있습니다.

TechPolicy.Press의 로라 맥클리어리는 미국의 AI 거버넌스 위기를 '민주주의 위기'로 규정하며, 백악관의 AI 국가 프레임워크가 주(州) 법률의 선점(preemption)을 주장하고 새로운 규제 기관 설립을 피하려는 시도를 강하게 비판합니다. 그녀는 이러한 접근 방식이 수십 년간 규제 인프라를 해체하려는 시도의 결과이며, 산업 로비의 영향력이 증가할수록 공공의 이익을 보호하기 위한 AI 규제가 약화될 수 있음을 경고합니다. 맥클리어리는 미국의 규제 방향이 분명하지 않으며, 새로운 규제 기관 설립을 기피하려는 경향이 산업 로비에 의한 결과일 수 있다고 지적합니다.

일부 전문가들은 이러한 차이가 진정한 글로벌 AI 표준을 정립하는 데 장애가 될 수 있다고 주장합니다.

광고

현재 글로벌 AI 거버넌스는 OECD, NIST, IEEE와 같은 자율적 가이드라인과 EU AI Act와 같은 강제적 법규가 혼재하는 '분기되는 세계'의 상황에 놓여 있습니다. Werksmans Attorneys의 아모어 버거-스미트(Ahmore Burger-Smidt)는 AI 거버넌스가 이론적 논의를 넘어 실제 기업 이사회 의제로 다뤄지고 있으며, AI 거버넌스에 '하나의 정답'은 없다고 강조합니다.

그는 조직들이 법규 준수와 함께 윤리적 고려를 포함하는 다층적인 접근 방식을 취해야 한다고 제언합니다.

한국 사회에 AI 거버넌스는 무엇을 의미하나

AI 거버넌스는 단순한 기술 문제를 넘어 사회와 문화의 영역으로 확장됩니다. 버거-스미트는 "AI 규제는 단순히 법적 조건을 충족시키는 데 그쳐서는 안 된다"라며, 인간 중심 원칙을 고수하는 동시에 기술 사용에 따른 '의도하지 않은 결과(unintended consequences)'를 사전에 고려해야 한다고 강조합니다.

이는 마치 AI가 단순한 '도구'가 아닌, 그 자체로 새로운 생태계를 형성해나가는 존재인 것처럼 받아들여야 한다는 점을 시사합니다.

광고

Let's Data Science는 AI 윤리 문제를 다루기 위해 철학, 법률, 사회과학을 아우르는 학제간 분석이 필요하다고 강조합니다. 이 매체는 윤리를 단순히 기술적 위험 관리로 축소해서는 안 되며, AI의 사회적 영향을 포괄적으로 이해하기 위한 다각적 접근이 필수적임을 역설합니다.

이러한 관점은 AI 거버넌스가 단순히 기술 전문가들만의 영역이 아니라, 인문학, 사회과학, 법학 등 다양한 분야의 협력을 통해 구축되어야 함을 보여줍니다. 하버드 케네디 스쿨에서 열린 AI 정책 심포지엄은 AI 거버넌스, 지정학적 경쟁, 지식 경제, 인프라 등 광범위한 주제를 다루며 전문가들이 AI의 다면적인 영향에 대한 심층적 논의를 지속하고 있음을 보여줍니다.

이는 AI 거버넌스가 단순히 규제 프레임워크 마련에 그치지 않고, 국가 간 경쟁, 경제 구조 변화, 사회적 형평성 등 복합적인 이슈들을 동시에 고려해야 하는 과제임을 시사합니다.

광고

우리나라의 경우, AI 거버넌스는 이제 막 가다듬어지는 단계입니다. 한국은 AI 기술을 공공부문에 적극 활용하려는 계획을 세우고 있지만, 공공 데이터를 활용한 AI 시스템의 편향성과 그 결과에 대해 충분히 고려하고 있는지에 대해서는 비판의 목소리도 나옵니다.

한국은 글로벌 AI 거버넌스의 다양한 접근 방식들을 참고하면서, 동시에 우리 사회의 문화적 특수성을 반영한 윤리적 검증 체계를 구축해야 할 필요성이 커지고 가고 있습니다.

미래의 AI 정책, 어디로 향할 것인가

물론, 규제가 과도해질 경우 기술 혁신의 동력을 잃을 수 있다는 우려도 있습니다. AI 기술의 발전이 국가 경쟁력과 직결된다는 의견이 제기되고 있으며, 지나치게 강력한 규제가 기업의 연구개발(R&D)을 위축시킬 수 있다는 점에서 반론의 여지가 있습니다. 그러나 전문가들은 균형이 중요하다고 말합니다.

규제가 느슨하거나 결여된 상태에서 위험을 방치하는 것과, 지나치게 엄격해 자유로운 연구 환경을 억압하는 것 모두 바람직하지 않다는 것입니다. 마르티나 살비가 강조한 것처럼, 기술 혁신과 윤리적 책임을 조화시키는 것이 진정한 AI 거버넌스의 목표가 되어야 합니다.

결국 AI 거버넌스는 단순히 기술 규제만이 아니라 '미래를 어떻게 설계하느냐'의 문제라 할 수 있습니다. 윤리적으로 설계된 기술은 혁신과 책임을 조화시킬 수 있지만, 윤리적 기준 없이 오로지 경제적 이익만을 추구하는 기술은 장기적으로 사회적 갈등을 초래할 가능성이 높습니다. 한국은 이 과정에서 글로벌 거버넌스를 참고하며, 동시에 우리의 문화적 특수성과 조화를 이루는 AI 정책을 수립할 필요가 있습니다.

글로벌 AI 거버넌스는 단순한 기술적 문제를 넘어 윤리적, 사회적, 지정학적 함의를 복합적으로 고려해야 하는 중대한 과제입니다. EU의 강제적 규제, 미국의 복잡한 정치경제적 상황, 그리고 OECD, NIST, IEEE 등의 자율적 가이드라인이 공존하는 현재의 '분기된 세계'에서, 한국은 어떤 경로를 선택할 것인가가 중요한 질문으로 떠오릅니다. 이 선택은 단순히 규제의 강도를 결정하는 것이 아니라, 우리 사회가 어떤 가치를 우선시하며 어떤 미래를 지향하는가를 보여주는 지표가 될 것입니다.

앞으로 AI는 단순히 우리의 도구를 넘어 모든 분야에 스며드는 존재로 자리 잡을 것입니다. 우리는 AI가 인간의 능력을 보조하고 개선하는 도구인지, 아니면 인간 자체를 대체하고 판단의 근간을 흔드는 도구로 변질될 것인지에 대한 중요한 경계에 서 있습니다. 이 질문에 대한 답은 결국 우리가 어떻게 AI 거버넌스를 설계하느냐에 달렸습니다.

독자 여러분은 어떤 방향이 더 바람직하다고 생각하십니까?

김도현 기자

광고

[참고자료]

vertexaisearch.cloud.google.com