AI 국가 전략 본격 시동, 인공지능 기본 계획과 AI 거버넌스 지침의 핵심 포인트

생성 AI를 비롯한 인공지능(AI) 기술은 자율적으로 업무를 수행하는 AI 에이전트나 현실 공간의 로봇을 제어하는 피지컬 AI 등으로 발전하며, 급속히 활용 영역을 넓혀가고 있습니다. AI는 이제 단순한 편의성 향상의 도구에 그치지 않고, 사회와 산업의 기반 기술로 자리 잡아가고 있습니다.

이러한 상황을 배경으로, 일본 정부의 인공지능 전략 본부는, 2025년(레이와 7년) 12월에, 「인공지능 기본 계획」 및 「인공지능 관련 기술의 연구 개발 및 활용의 적정성 확보에 관한 지침」을 발표했습니다.

이들은 2025년(레이와 7년) 9월 1일에 전면 시행된 「인공지능 관련 기술의 연구 개발 및 활용의 추진에 관한 법률」(이하 “AI법”이라 합니다)에 근거하여, 일본이 세계에서 가장 AI를 개발하고 활용하기 쉬운 국가가 되는 것을 목표로 수립된 국가 전략입니다.

본 기사에서는, 일본이 목표로 하는 AI 국가 전략의 지침이 되는 이 두 가지 핵심 사항에 대해 그 핵심적인 요점을 정리하고 해설합니다.

일본 인공지능 기본 계획 제정의 배경

이번 기본 계획의 제정 배경에는 일본 경제가 직면한 구조적 과제와 AI를 성장의 기점으로 삼는 국가 전략이 있습니다.

일본 경제의 정체와 AI 전략

현재 일본의 상황을 보면, AI의 활용 및 투자 측면에서 주요국에 비해 뒤처지고 있습니다. 특히 경제 규모에 비해 AI 관련 투자가 적다는 점은 미래 산업 경쟁력에 큰 우려 사항으로 지적되고 있습니다.

한편, 일본 사회는 인구 감소, 국내 투자 부족, 임금 정체와 같은 오랜 구조적 과제를 안고 있습니다.

정부는 이러한 과제를 해결하는 열쇠가 AI 혁신에 있다고 보고 있습니다. AI를 통해 업무 효율화를 추진할 뿐만 아니라, 새로운 사업 창출과 사회적 과제 해결을 통해 일본 경제를 다시 성장 궤도에 올리는 것이 본 계획의 목표입니다.

특히 일본이 강점을 가진 제조, 의료, 연구 분야의 질 높은 데이터를 활용하여 신뢰성 높은 AI를 창출할 수 있는 기회로 기대되고 있습니다.

국제적 규칙 형성과 리스크에 대한 우려

또 다른 배경으로는 국제적인 AI 거버넌스 대응이 있습니다. 일본은 2023년 G7 히로시마 정상회의에서 창설된 “히로시마 AI 프로세스”를 주도해 왔습니다. 이는 고도화된 AI 시스템에 관한 국제적 지침과 행동 규범을 제정하여 안전하고 신뢰할 수 있는 AI(Safe, Secure, and Trustworthy AI)의 실현을 목표로 하는 세계 최초의 포괄적 틀입니다.

일본은 이 프로세스를 통해 국제적 규칙 형성을 이끌어 왔지만, 국내에서도 구체적인 대책이 시급한 상황입니다. AI에는 허위 사실을 그럴듯하게 출력하는 ‘환각’과 같은 기술적 리스크 외에도 편견이나 차별의 조장, 범죄 이용, 프라이버시 침해, 허위 정보 확산 등 다양한 사회적 리스크가 지적되고 있습니다.

이러한 리스크에 대한 국민의 불안을 경감하고 AI의 사회적 수용성을 높이기 위해서는 투명성, 공정성, 안전성을 확보하기 위한 명확한 규칙이 필수적입니다. AI 법에 기반한 지침의 제정은 히로시마 AI 프로세스의 이념과도 부합하며, 사업자의 자발적인 노력을 촉진하면서 리스크를 적절히 관리하여 혁신과 안전성의 양립을 도모하는 것을 목적으로 하고 있습니다.

일본 인공지능 기본 계획과 AI의 적정성 확보란

이번에 발표된 일본 인공지능 기본 계획의 골자에서는 AI의 활용 촉진과 개발력 강화를 중심으로, 정부가 추진하는 주요 정책의 방향성이 제시되어 있습니다.

일본 인공지능 기본 계획의 3원칙과 4가지 방침

AI법에 따라 수립되는 기본 계획은 “3원칙”과 “4가지 방침”을 기둥으로 하고 있습니다.
정부는 “혁신 촉진과 리스크 대응의 양립”, “민첩한 대응”, “내외 일체의 정책 추진”을 원칙(3원칙)으로 내세우고 있습니다. 이를 바탕으로 다음의 4가지 정책이 제시되어 있습니다.

1. AI 활용의 가속적 추진 “AI를 사용하다”: 정부가 선도적으로 AI를 도입하고, 중소기업 및 지역 산업에의 보급을 지원합니다.
2. AI 개발력의 전략적 강화 “AI를 창조하다”: 계산 자원, 반도체, 데이터 센터 등의 인프라 정비를 가속화하여 일본 고유의 AI 생태계를 구축합니다.
3. AI 거버넌스의 주도 “AI의 신뢰성을 높이다”: 국제적인 거버넌스 구축을 주도하면서, 국내에서는 AI 안전성 연구소(AISI)를 강화하여 기술적 평가를 수행합니다.
4. AI 사회를 향한 지속적 변혁 “AI와 협력하다”: AI 인재 양성과 리스킬링을 추진하여, 인간이 가치를 발휘하는 “인간력” 향상을 위한 환경을 조성합니다.

AI의 적정성 확보에 관한 지침의 포인트

“인공지능 관련 기술의 연구 개발 및 활용의 적정성 확보에 관한 지침”은 모든 주체에 공통되는 적정성 확보의 사고방식과, 연구 개발 기관 및 활용 사업자가 수행해야 할 사항을 제시하고 있습니다.

지침에서는 다음 항목을 기본적인 고려 요소로 들고 있습니다.

• 인간 중심: 인간의 존엄을 존중하고, 최종적인 판단은 인간이 내리는 것
• 공정성: 부당한 편견이나 차별을 발생시키지 않는 것
• 안전성: 생명, 신체, 재산에 해를 끼치지 않는 것
• 투명성: 정보의 공개와 검증 가능성을 확보하는 것
• 책임성: 사회적 영향을 고려하여 책임을 다하는 체계를 구축하는 것
• 보안 및 프라이버시: 부정 조작의 위험을 줄이고 개인 정보를 적절히 보호하는 것

구체적인 접근법으로는 “리스크 기반 접근법”(영향도에 따른 대책), “이해관계자의 적극적인 참여”, “일관된 AI 거버넌스 구축”, “민첩한 대응”(PDCA 사이클의 신속한 회전)의 4가지가 강조되고 있습니다.

일본 AI 국가 전략이 기업에 요구하는 대응

기업, 특히 일본 AI법 제7조에 규정된 “활용사업자”와 같은 법 제6조에 규정된 “연구개발기관”은 AI의 라이프사이클 전반에 걸쳐 책임 있는 대응이 요구됩니다.

포괄적인 AI 거버넌스 구축

기업은 경영진이 깊이 관여하는 형태로 조직적인 관리 체계를 정비해야 합니다.

여기에는 리스크의 식별, 평가, 대응 프로세스의 확립, 임직원에 대한 교육 및 훈련의 실시, 정보의 적절한 공개가 포함됩니다. 기존의 IT 시스템 거버넌스를 활용하면서, AI 특유의 변동하는 리스크에 대응할 수 있는 애자일한 체제로의 전환이 필요합니다.

이해관계자와의 신뢰 관계 구축

투명성 확보는 최우선 과제입니다. 학습 데이터의 출처나 AI 출력의 근거를 합리적인 범위 내에서 설명할 수 있도록 노력해야 합니다. 또한, 이용자에게는 AI의 구조와 한계, 금지 사항 등 적절한 이용을 가능하게 하는 정보를 적극적으로 제공해야 합니다.

기술적 안전 대책과 리스크 억제

AI를 악용한 사이버 공격이나 사기에 대한 대책, 환각 억제에 더해, 특히 허위 정보의 확산 방지가 중요시됩니다. 기업은 최신 지식을 활용하여 부적절한 출력을 억제하고, 필요에 따라 전자 워터마크나 이력 관리 등 AI 생성물임을 판별할 수 있는 기술을 구현할 의무를 집니다.

사업 지속성과 이해관계자에 대한 배려

AI를 활용한 시스템에 장애가 발생할 경우를 대비해, 조기 복구를 위한 사업 지속 계획(BCP)을 미리 수립해 두어야 합니다.

또한, 혁신의 기반인 데이터의 중요성을 감안하여, 지적 재산권을 가진 데이터 보유자와의 지속적인 커뮤니케이션을 도모하고, 이익 환원의 생태계 구축에 협력하는 자세도 기대됩니다.

결론: 일본 AI 관련 법률에 대해 전문가와 상담하세요

이번에 발표된 인공지능 기본 계획 등은 일본이 AI 분야에서 국제적인 경쟁력을 높이기 위한 국가 전략의 방향성을 제시한 것이라고 할 수 있습니다.

기업에게 중요한 것은 이러한 지침을 단순한 규제나 금지 사항으로 받아들이는 것이 아니라, 신뢰성 높은 AI 활용을 실현하기 위한 기반으로 이해하는 것입니다. 지침에 기반한 거버넌스 체제를 정비하는 것은 법적 리스크를 줄이는 것뿐만 아니라, 고객과 사회로부터의 신뢰 확보에도 연결됩니다.

이러한 지침에 적절히 대응하기 위해서는 법률뿐만 아니라 IT 비즈니스에도 정통한 전문가의 조언을 활용하는 것이 중요합니다.

당 법무법인의 대응 안내

모노리스 법률사무소는 IT, 특히 인터넷과 법률 분야에서 풍부한 경험을 보유한 법률사무소입니다. AI 비즈니스에는 많은 법적 리스크가 수반되며, AI 관련 법적 문제에 정통한 변호사의 지원이 필수적입니다. 당 법무법인은 AI에 정통한 변호사와 엔지니어 등으로 구성된 팀이 ChatGPT 등을 활용한 AI 비즈니스에 대해 계약서 작성, 비즈니스 모델의 적법성 검토, 지적 재산권 보호, 프라이버시 대응, AI 사내 규정 정비 등 고도의 법적 지원을 제공하고 있습니다. 아래 기사에서 자세한 내용을 확인하실 수 있습니다.