AI 통제에 낮은 신뢰개인 데이터 보호, 소비자 권리 강화 필요성

유럽(EU) 국가 시민들은 대부분은 AI가 위험할 수 있으며 당국이 금지해야한다는데 동의했다. AI 금지에 대해 적극 동의하지 않는 응답자는 18%에 불과했다.

유럽 시민 20% 미만이 현재 법률이 인공 지능(AI)을 “효율적으로 규제”한다고 믿고 있다. 56 %는 당국이 기술을 효과적으로 통제할 수 있다는데 낮은 신뢰를 보였다.

이는 AI 기반 공공 서비스의 거버넌스 및 설계에 중요한 영향을 미치며 투명성, 책임성, 의사 결정의 형평성 및 개인 데이터 관리에 대한 시민의 우려를 해결해야 할 필요성을 강조한다.

유럽 소비자기구(BEUC)는 벨기에, 덴마크, 프랑스, 독일, 이탈리아, 폴란드, 포르투갈, 스페인, 스웨덴의 9 개 유럽 국가에서 1만1500명의 소비자를 대상으로 설문 조사를 실시했다. 응답자의 대다수는 AI가 유용할 수 있다고 생각하지만 대부분은 기술을 신뢰하지 않으며 현재 규정으로 인해 발생할 수 있는 피해로부터 보호되지 않는다고 생각한다.

또한 벨기에, 이탈리아, 포르투갈 및 스페인 응답자의 66%가 AI가 위험할 수 있으며 당국에 의해 금지되어야한다는 데 동의하는 것으로 나타났다. 다른 5개국 응답자의 18%만이 AI 금지에 대해 적극 동의하지 않았다.

설문 조사에 응한 사람들은 AI가 특히 교통 사고를 예측(91 %), 의료 서비스(87 %) 또는 재정 문제를 지원(81 %) 등에 사용될 때 AI가 삶의 많은 영역에서 중요한 역할을 할 것이라고 생각했다. 또한 스페인 (44 %)과 이탈리아 (45 %)에서 설문 조사에 참여한 응답자의 거의 절반이 AI가 세상을 보다 지속 가능하게 만드는 데 도움이 될 것으로 응답, 포르투갈 응답자의 44 %, 스페인 응답자의 50 %가 AI가 기대 수명 성장에 기여할 것이라고 답했다.

그러나 전반적으로 응답자의 대다수는 개인 데이터 남용 및 의사 결정 조작에 대한 사용에 대한 우려로 인해 AI에 대한 신뢰도가 낮거나 중간 수준이라고 답했다. 벨기에, 이탈리아, 포르투갈 및 스페인의 응답자의 60 %는 AI가 개인 데이터 남용으로 이어질 것이라고 답했다. 이들 4개국의 소비자는 기업이 AI를 사용해 의사 결정을 조작하고 있다고 생각했다. 프랑스, 덴마크, 독일, 폴란드, 스웨덴에서는 52%가 이것이 사실이라고 생각했다.

설문 조사에 참여한 대다수 (예 : 스페인의 83 %)는 소비자가 자동화 된 의사 결정 시스템을 다룰 때 알려야한다고 생각하며 대다수 (이탈리아와 포르투갈의 경우 78 %, 스페인의 경우 80 %)가 동의했다. AI 사용자는 자동화 된 의사 결정에 “아니오”라고 말할 권리가 있어야한다.

모든 국가의 응답자 약 56%(벨기에 최고 70%)는 AI에 대한 효과적인 통제권을 행사할 당국에 대한 신뢰가 낮았다. 벨기에, 이탈리아, 포르투갈 및 스페인의 60%는 AI가 안전하지 않거나 해를 끼치는 경우 누가 책임을 져야할지 명확하지 않다고 생각했다. 이들 4 개국에서 설문 조사에 참여한 응답자의 51 %가 AI가 개인의 특성이나 사회적 범주에 따른 불공정한 차별을 주도 할 것이라는 데 동의했다.

BEUC의 부사무총장 우르술라 파츨(Ursula Pachl)은 “일반 소비자가 AI 기반 제품이나 서비스로 인해 피해를 입었다고 생각할 때 누가 책임이 있는지 식별할 수 없을뿐만 아니라 자신을 보호하기 위해 당국에 의존할 수 없다고 느끼는 것”이라며 “잘 정의된 권한을 가진 당국이 시행하고 권한을 행사할 수있는 명확하고 강력한 규칙을 갖는 것은 신뢰성의 문제”라고 말했다.

BEUC는 보고서는 “AI 애플리케이션은 이미 유럽 법률의 적용을 받고 있지만 데이터 보호, 개인 정보 보호, 차별 금지, 소비자 보호, 제품 안전 및 책임 – 기존 규칙은 AI가 제기하는 위험과 추가 조치가 필요한 문제를 해결하는 데 적합하지 않다. 기존 법률을 업데이트하고 AI에 대한 소비자 권리를 강화하기 위해 새로운 법률을 도입해 적절히 보호해야 한다”고 결론에서 밝혔다.