[국회=환경일보] 김인성 기자 = 디지털 기술의 발전, 특히 빅데이터, 클라우드 컴퓨팅, 블록체인, 메타버스, 인공지능(AI)과 같은 최신 기술들은 정부, 시장, 시민사회 전반에 걸쳐 광범위한 영향을 미치고 있다.

그러나 AI 등 신기술은 산업혁신과 함께 소비자에게 제공되는 서비스 유형이 다양화, 복잡화되면서 파생되는 새로운 위험에의 노출이 우려될 수 있다는 지적이다.

현대 사회에서 AI는 생산성 증가 및 비용 감소로 인한 가격합리화로 소비자의 후생을 증진시키고, 맞춤형 광고와 자동화 등 다양한 분야에서 활용돼 소비자의 편익이 증진되는 데 많은 도움을 주고 있다.

금융 분야에서도 로보어드바이저, 챗봇, 상품추천, 이상거래탐지, 신용평가 및 여신심사 등에서 적극적으로 활용되고 있다.

하지만 반대로 ▷데이터/알고리즘 편향으로 인한 차별 ▷개인정보보호 ▷환각, 허위정보, 가짜뉴스 ▷사용자에 의한 악용, 오용 ▷범죄 활용으로 인한 소비자 피해 ▷소비자 역량 저하 ▷빅테크 기업 권한 집중 ▷정보 비대칭 등의 부작용도 함께 문제시되고 있다.

이처럼 빠르게 성장하는 인공지능 시장에서 소비자 정책과제나 발생 가능한 소비자 이슈에 대한 사전적 준비가 충분히 이뤄져야 한다는 게 다수 전문가들의 의견이다.

EU, AI법 발의‧‧‧ 2026년 규제 완전 적용

EU 집행위원회에서도 이러한 문제점에 입각해 2021년 4월 AI에 대한 법안(Artificial Intelligence Act)을 발의했으며, 2026년경 규제가 완전 적용될 것으로 예상되고, EU 차원에서의 AI 규제 기관 창설이 계획 중이다.

EU AI법에 의하면 ‘허용할 수 없는 위험’을 가진 AI는 엄격히 금지되고, ‘고위험’ AI에 대해서는 엄격한 요구사항이 부과된다.

EU에서는 AI의 인권 침해 우려로 ▷사람의 행동을 유해한 방식으로 전가 ▷특정 집단의 취약성을 악용 ▷행정기관 등이 개인의 행동 특성을 기반으로 신뢰도를 평가 분류 ▷공공장소에서 실시간 원격 생체인식정보 시스템을 이용 ▷개인에 대한 범죄 재범‧위험을 평가하는 경우 등을 들고 있다.  

그밖에 다양한 인공지능 투명성 관련 의무와 생성형 AI에 대해 기초모델의 훈련 및 가능한 경우 그 설계 및 개발에 있어서도, 생성되는 콘텐츠가 EU 법률 및 기본권 준수하도록 함에 대한 규정을 도입한다는 방침이다.

그 외 일본에서는 AI를 직접적으로 규제하기 위한 당장의 법률은 없지만, 당국과 전문가들을 토대로 AI 규제‧활용에 대한 정책방향을 논의 중이다. 세부적으로 AI 정책 컨트롤타워 역할을 하는 ‘AI 전략회의’를 통해 이용 촉진, 허위정보 및 개인정보 침해 등 리스크 대응, 국제 규제 등을 검토하고 있다.

캐나다에서는 2022년 6월 ‘AI 및 데이터 법안’을 발의했으며, 미국은 2022년 미국 상‧하원에 각각 ‘알고리즘책임법안(Algorithmic Accountability Act)을 발의했다.

미국은 알고리즘을 개발‧배포하는 일정 기업으로 하여금 자동화된 의사 결정 시스템과 그 시스템을 중요한 의사결정에 활용하는 과정이 소비자에게 미치는 영향을 평가하도록 하고 있다.

주요국, 국가차원 AI산업 지원책 마련 中

26일 변재일 의원, (사)소비자권익포럼, (사)미래소비자행동 주최로 국회에서 열린 ‘AI 시대 소비자정책 과제와 보호방안’ 포럼에서 정신동 한국외국어대 법학전문대학원 교수는 “주요 국가들은 이미 AI의 발전과 산업 활성화를 위한 국가 차원의 전략을 수립해 상당한 지원책을 마련했다”며 인공지능의 활용이 소비자 피해를 발생시킬 수 있는 부정적인 효과에 대해서도 대책 마련 중이라고 전했다.

그러면서 소비자 편익과 후생을 위한 인공지능 활용을 도모하면서 소비자 피해구제를 위한 새로운 법 체계를 마련하되, 다만 EU법안들을 한국 실정을 고려하지 않고 무비판적으로 수용하는 것은 지양해야 한다고 당부했다.

AI 산업은 아직 초반에 불과하지만 소비자 문제에 있어 많은 우려를 낳아왔다. 일례로 2016년 인공지능 미인대회 뷰티닷에이아이는 다양한 피부색 데이터를 학습하지 않아 백인여성을 더욱 아름답다고 판단해, 최종 수상자 다수가 백인이 되는 결과를 만든 ‘데이터 편향성’을 보였다.

2021년 AI 챗봇 이루다 개발사 스캐터랩과 2022년 미국 안면 인식 기술 기업인 클리어뷰AI는 정보주체로부터 데이터(나이, 성별, 대화내용) 수집 및 이용에 관한 동의를 받지 않아 과징금이 부과된 바 있다.

2023년 10월 SKT 인공지능 서비스 에이닷 역시 아이폰 사용자의 통화내용을 녹음하고 기록해 인공지능에 대한 ‘개인정보보호’ 논란이 일어났다.

아울러 딥러닝 등 AI 알고리즘은 결과 도출 과정을 알기 어려운 ‘블랙박스 현상’으로 환각, 허위정보, 가짜뉴스의 불안함을 야기하고 있다.

“인공지능 상품 등 구체적 제도 마련 시급”

또 AI를 통해 생성한 결과물이 저작권 침해 가능성/침해 소재 및 챗GPT는 성적인 대화나 정치적인 편향 발언을 할 수 없으나 특정 명령어를 통한 탈옥을 통해 악의적인 학습 가능하다는 점도 무시할 수 없다는 분석이다.

법무법인 민후 양진영 변호사는 “인공지능 기술의 발달로 인해 새로이 발생할 수 있는 소비자 문제 예측 및 대응이 필요하다”며 “인공지능 콘텐츠/상품에 대한 표시, 데이터/알고리즘 영향평가, 인증 등 구체적인 제도 마련이 시급하다”고 봤다.

또 그는 인공지능 리터러시, 윤리 교육 등은 중장기적 시각에서 정립돼야 한다고 강조하며, 인공지능 문제 및 대응 관련 전문인력 양성, 관리감독, 분쟁해결을 위한 전담기구 설치를 통해 인공지능 산업의 발전과 소비자 문제의 해결이 동시에 이뤄질 수 있도록 해야 한다고 제언했다.

특히 양 변호사는 아직 우리나라 저작권법상 규정이 없다며, 저작권자들의 반대 및 보상체계 마련 미비 등 문제점, 침해주체, 기준, 입증책임 등에 관한 논의가 필요하다고 덧붙였다.