📋 목 차
인공지능 기술의 급격한 발전에 따라 세계 각국에서 AI 규제를 위한 법제화가 시작되고 있습니다. 우리나라에서도 며칠 전인 2024년 12월 26일 인공지능(AI) 기본법(공식법률명: 인공지능의 발전과 신뢰기반 조성 등에 관한 기본법)이 국회 본회의를 통과해 2026년 1월부터 시행이 예정되어 있습니다. AI 기본법은 인공지능 기술이 사회에 미칠 영향을 고려해 책임 있는 개발과 사용을 촉진하는 중요한 기준점으로 자리 잡고 있습니다. 이번 글에서는 AI 기본법의 주요 내용, 사회적 영향, 문제점을 살펴보겠습니다.
AI 기본법의 주요 내용
인공지능 기본법은 우리나라의 디지털 전환과 기술 발전을 지원하기 위해 수립된 첫 번째 포괄적 법안으로, 다음의 주요 내용을 포함하고 있습니다.
첫째, 인공지능의 정의와 주요 개념을 명확히 규정합니다. 법안은 인공지능(AI), 고영향 인공지능, 생성형 인공지능 등을 정의하며, 이들의 사회적 영향력을 감안하여 고영향 인공지능에 대해 별도의 규율을 마련했습니다. 고영향 인공지능은 생명, 안전, 기본권 등에 중대한 영향을 미칠 가능성이 있는 기술로, 투명성과 안전성을 필수적으로 보장해야 합니다.
둘째, 국가인공지능위원회 설립을 명시하고 있습니다. 동 위원회는 대통령 소속으로 설치되며, AI 기본계획 수립, 정책 심의, 연구개발(R&D) 전략 및 투자 전략 수립, AI산업 관련 규제 개선, 고인공지능 데이터센터 등 인프라 확충, 인공지능 활용 촉진, 국제규범 마련 등 국제협력, 고영향 AI의 규율 등 다양한 역할을 수행합니다. 국가인공지능위원회의 운영을 지원하기 위해 과학기술정보통신부에 인공지능정책센터 및 인공지능안전연구소를 설치하는 내용을 담고 있습니다.
셋째, AI 윤리 원칙의 확립과 보급을 법제화했습니다. 윤리 원칙은 AI가 인간의 존엄성을 존중하고, 안전성과 신뢰성을 바탕으로 개발 및 활용될 수 있도록 하는 기준을 제공합니다. AI 윤리원칙을 준수하기 위해 민간자율인공지능윤리위원회를 설치할 수 있도록 하는 한편, 인공지능 안전성 및 신뢰성 검정 또는 인증 지원 등을 통해 AI 기술이 사회적 가치를 증진시키는 방향으로 발전하도록 유도하는 내용을 담고 있습니다.
넷째, 인공지능사업자의 투명성 및 안전성 확보 의무를 부과하고 있습니다. 특히 인공지능사업자가 고영향 인공지능 또는 이를 이용한 제품이나 서비스를 제공하는 경우 고영향 인공지능의 안전성과 신뢰성 확보를 위해 부과될 의무사항을 반드시 이행하도록 하고 있습니다. 그런 의무사항에는 위험관리방안의 수립 및 운영, 이용자 보호 방안 수립 및 운영, 고영향 인공지능에 대한 사람의 관리 및 감독, 인공지능 영향평가 등이 포함되어 있습니다.
AI 기본법이 미치는 사회적 영향
AI 기본법은 여러 측면에서 사회 전반에 영향을 미칠 것으로 예상됩니다.
첫째, 기술의 투명성과 신뢰성을 강화하여 AI의 공정한 활용을 보장합니다. 예를 들어, 생성형 AI를 활용한 콘텐츠가 생성형 AI에 의해 제작되었음을 명확히 고지하도록 규정함으로써, 기술 오용에 따른 피해를 예방할 수 있습니다.
둘째, 데이터 보호와 윤리적 책임을 강조합니다. 고영향 AI 시스템은 학습과 결과 도출 과정에서 주요 기준과 데이터를 설명할 수 있어야 하며, 이 과정에서 안전성을 지속적으로 관리해야 합니다. 이는 AI 기술이 사람들의 신뢰를 얻고 사회적 수용성을 확보하는 데 기여할 것입니다.
셋째, 산업 경쟁력을 강화를 위한 다양한 정책 시행입니다. AI 산업 진흥을 위해 창업 지원, 전문 인력 양성, 데이터센터 구축 등 다각적인 지원 정책을 마련하고 있습니다. 특히, AI 기술의 표준화를 추진하여 국내 기술이 국제 시장에서도 경쟁력을 갖추도록 돕습니다.
AI 기본법 적용 주요 사례
AI 기본법이 현실에서 어떻게 적용될 수 있을까요? 이 법은 의료, 교통, 교육 등 다양한 고위험 분야에서 안전성과 윤리성을 강화하기 위해 설계되었습니다.
의료 분야에서는 AI 기반 진단 도구의 안전성을 인증받도록 하고, 해당 결과물의 신뢰성을 확보해야 합니다. 예를 들어, AI가 진단한 결과가 인체에 미치는 영향을 최소화하기 위해 위험 관리 체계를 갖춰야 하는 할 것입니다.
교통 시스템에서는 자율주행차와 같은 기술의 안전성을 보장하기 위해 AI의 작동 원리를 투명하게 공개하고, 실시간 모니터링 체계를 구축해야 할 것입니다.
교육 분야에서는 AI 기반 학생 평가 도구가 공정성과 신뢰성을 보장하도록 규제하며, 이를 통해 AI 기술이 교육의 질을 높이는 데 기여할 수 있을 것입니다.
AI 기본법의 문제점
AI 기본법이 중요한 의미를 갖지만 한편으로는 규제의 모호성과 기업의 비지니스 모델(BM) 확장성에 제한을 초래할 것이라는 우려의 목소리도 나오고 있습니다. 특히 고영향 AI에 대한 기준의 모호성으로 인해 명확한 규제 대상 파악이 어렵다는 점 또한 문제점으로 지적될 것으로 보입니다. 나아가 사전 규제(ex ante regulation)의 내용들은 인공지능을 사업적으로 이용하는 기업들에게 재정적인 부담을 초래할 것으로 예상됩니다.
우리나라의 인공지능(AI) 기본법은 AI 기술 발전과 사회적 책임 간의 균형을 맞추기 위한 중요한 법적 틀을 제공하고 있습니다. 이 법은 기술의 윤리적 사용과 안전성을 강조하며, 국민의 삶의 질을 높이는 데 중점을 둡니다. AI 기술의 발전과 함께 등장할 새로운 도전 과제를 해결하기 위해, 정부와 산업계가 함께 협력해 AI 기본법 시행과정에서 지속적인 개선을 해나면서 디지털 시대를 위한 든든한 기반이 되길 기대합니다.