AI 관련 상품 또는 시스템에 대해서 윤리적으로 영향평가를 해보는 실습을 진행하였다.
팀활동으로 진행하였으며, 아래는 최종영향평가 결과이다.
평 가 대 상: Dyson 360 vis nav 로봇청소기
- 서론
현대 사회의 기술발전과 함께 일상생활에서의 효율성과 편리성에 대한 요구도 증가하고 있다. 최근 가사일을 돕는 가전제품에 대한 수요는 지속적으로 증가하고 있는 추세다. 신혼부부 혼수 필수품이라고 불리우는 ‘3대 가사 해방 가전’인 로봇청소기·식기세척기·의류건조기 시장은 2021년부터 2023년까지 평균 38%의 꾸준한 성장률을 보였다.[1] 특히 로봇청소기는 AI기술을 토대로 집안을 자동으로 청소해 주어 가사 노동의 시간을 절약해 주고, 더 나아가 청소의 질을 높여준다. 이는 로봇청소기가 단순한 가전제품을 넘어 삶의 질을 향상시키고 일상생활의 스트레스를 줄이는 생활필수 도구로 자리매김하고 있음을 보여준다. 인간을 사사로운 가사일로부터 해방시켜주고 여가시간을 만들어 준다는 점에서 로봇청소기는 대한민국 헌법이 보장하는 인간의 기본권 중 하나인 행복추구권을 보장시켜주는 요소라고 해도 과언이 아니다. 인간과 끊임 없이 상호작용을 하며 현대인들의 생활패턴과 청소에 대한 개념을 재정립한 로봇청소기의 중요성이 커짐에 따라 세계 유수의 가전기업들도 해당분야 기술개발에 투자를 아끼지 않고 있다.
하지만 로봇청소기는 다른 생활가전과 달리 집안 곳곳을 자동으로 돌아다니는 기계이다. 특히 대다수의 로봇청소기가 카메라 또는 센서를 사용해 집안의 모습을 스캔하여 지도를 만들고 데이터를 수집하는데, 이 과정에서 사용자의 사생활이 노출될 위험이 존재한다. 이러한 문제로 로봇청소기의 편리성에도 불구하고, 사용자의 개인 정보 보호와 관련된 심각한 논쟁이 일어나고 있다. 게다가 로봇청소기의 기술적 안전성이 결여돼 발생한 사고는 소비자에게 막대한 피해를 초래한다. 일례로, 청소기가 사물을 잘못 인식하여 발화물질을 건드려 화재가 발생한 사건도 있었다. 이 뿐만 아니라 AI가전제품 특성상 소프트웨어 어플리케이션과 유기적인 상호작용이 필요함에도 지속적인 연결 끊김으로 불평을 토로하는 소비자도 많고, 이러한 애로사항을 사측에 전달해도 개선사항이 없는 경우도 있다. 해당 사례는 제품의 개발 과정에서 소비자라는 이해관계자의 참여를 배제시키기 때문에 공정성 문제로 볼 수 있다.
로봇청소기의 시장은 계속해서 성장하고 있지만 앞서 언급된 우려들에 대한 평가가 부족한 상황이다. 로봇청소기의 성공 여부는 기술적 혁신뿐만 아니라 윤리적 책임과 사용자 신뢰 확보에 달려있는데, 이를 위해서는 기술 발전과 함께 개인정보 보호, 안전성, 공정성 등 다양한 측면에서의 균형 잡힌 접근이 필요하다. 이 모든 부분이 해결될 때 비로소 로봇청소기는 현대인의 생활을 편리하게 만들면서 기술과 윤리의 조화를 이룰 수 있는 모범 사례로 자리잡을 수 있을 것이다. 따라서 팀 Clean AI는[2] 로봇청소기의 AI 윤리 이슈를 자체적으로 평가하고자 평가대상으로 다이슨社 Dyson 360 vis nav를 선정했고 영향평가 방법은 후술될 내용에 따른다.
영향평가(Impact Assessment)는 특정 프로젝트, 정책, 프로그램, 또는 활동이 환경, 사회, 경제, 문화 등 다양한 측면에 미칠 영향을 체계적으로 평가하고 분석하는 과정이다. 이 과정은 주로 다섯 가지의 목적으로 수행이 된다. 먼저 특정 활동이 환경, 사회, 경제 등에 미칠 수 있는 잠재적인 영향을 식별하기 위해서이다. 또한 식별된 영향의 규모와 심각성을 평가하여 어떤 영향이 주로 다루어져야 하는지 결정할 수 있다. 다음으로 부정적인 영향을 최소화하고 긍정적인 영향을 극대화할 수 있는 대안들을 검토하기 위함이다. 이 때 부정적인 영향을 줄이기 위한 관리 및 완화 전략을 제안할 수 있다. 마지막으로 프로젝트나 정책의 영향을 받을 수 있는 이해관계자들의 의견을 수렴하고 반영하기 위해서 영향평가를 수행한다.
영향평가는 환경영향평가(Environmental Impact Assessment, EIA), 사회영향평가(Social Impact Assessment, SIA), 경제영향평가(Economic Impact Assessment), 문화영향평가(Cultural Impact Assessment) 등 다양한 형태로 이루어질 수 있으나, 본 보고서는 평가대상의 AI 기술 분야에 초점을 두고 잠재적 영향 식별 및 영향의 심각성 평가를 목적으로 영향평가 대상에 대한 정량적, 정성적 영향평가를 실시한 뒤 결과를 서술한다.
- 영향 평가 대상 및 평가 항목
평가대상인 Dyson 360 vis nav는 국내에서 가장 강력한 헤파 로봇 청소기로, 엣지 클리닝 기술을 이용해 모서리까지 청소가 가능하다. 또한 360도 시야를 갖춘 어안 카메라가 장착되어 전방을 180도 이상의 각도로 캡쳐해 공간맵핑이 가능하며 근적외선, 초음파, 레이저 등을 이용해 청소도중 장애물을 회피한다. MyDyson 어플리케이션을 사용해 청소 구역에 맞는 청소 모드 설정이 가능하며 음성명령으로 로봇청소기를 제어한다. 음성명령은 구글과 아마존社와 협업하여 진행한다. 해당제품은 2024년 03월에 출시되었으며 전반적인 소비자들의 반응은 높은 가격 대비 자율주행이 높지 않고, 매번 같은 장애물에 부딪히는 문제가 있다는 평가가 많다.
팀 Clean AI는 유럽연합 집행위원회(European Commission, EC)에서 제공하는 ALTAI(Assessment List for Trustworthy AI) 시스템을 이용해서 평가항목을 추려보았다. ALTAI는 유럽연합이 선정한 AI 고위 전문가 그룹이 개발한 도구로, 기업 및 조직이 개발 중이거나 사용 중인 인공지능 시스템의 신뢰성을 자가 평가할 수 있는 시스템이다. 신뢰할 수 있는 AI(Trustworty AI)는 인간의 에이전시와 감독, 기술적 견고성 및 안전성, 프라이버시와 데이터 관리, 투명성, 다양성(차별 금지 및 공정성), 환경적 및 사회융화, 책임성 이렇게 7가지 영역으로 구분하여 평가가 된다. ALTAI는 350명이 넘는 이해관계자가 참여한 광범위한 시범 과정을 통해 개발되었으며, 이 과정에서 수집된 피드백을 반영하여 도구를 개선했다.[3] 이를 통해 AI 시스템이 윤리적이고 유럽의 가치에 부합하는 방식으로 개발될 수 있도록 보장하며 일반 사용자는 ALTAI의 상세한 체크리스트와 웹 기반 프로토타입을 이용하여 인공지능 평가대상 시스템에 대한 자체 평가가 가능하다.
영향평가대상인 Dyson 360 vis nav에 대한 ALTAI 평가 결과는 아래와 같다. 이 중 평가점수가 가장 낮았던 하위 3개 영역인 기술적 견고성과 안전성, 프라이버시 및 데이터 거버넌스, 공정성 부분과 점수가 가장 높았던 인권보장, 인간의 주체성 및 관리감독 부분을 영향평가 항목을 선정하였다. 하위 3개 영역의 경우 AI 윤리적으로 우려되는 부분을 중심으로 분석을 진행했고, 상위 1개 영역의 경우 잘 지켜지고 있는 부분을 재검토한 뒤 ALTAI 평가에서 놓쳤던 미흡한 부분이 있는지 확인하였다.
[1] 최승근. "로봇청소기·식기세척기·의류건조기’ 3대 가사 해방 가전 급성장." 데일리안, 2024년 1월 24일, https://www.dailian.co.kr/news/view/1320749. [Accessed 29 May 2024]
[2] 집안을 청소하게 만드는 Clean한 AI 로봇 청소기와 영향평가를 통과할 수 있는 Clean한 AI기술을 뜻한다.
[3] ALTAI, “The Assessment List for Trustworthy Artificial Intelligence” https://altai.insight-centre.org/, [Accessed 29 May 2024]
- 영향 평가 방법
전체적인 영향평가의 진행 체계는 다음과 같다. 먼저, 이해관계자 그룹을 도출하고 그들이 가진 입장과 목적을 정리하는 프로세스를 진행하였다. 이후, 팀 내에서의 브레인스토밍과 논의를 기반으로 하여 주요 논쟁점을 선별적으로 도출하여 영향평가 진행에 있어 집중적인 분석이 이루어질 항목 4가지 항목(인권과 인간의 주체성과 관리감독, 기술적 견고성과 안전성, 프라이버시 및 데이터 거버넌스, 공정성)을 설정하였다.
로봇청소기가 사용자와 상호작용하는 다양한 측면을 고려하여 고객경험 위주의 자료를 수집하고 분석하였으며 제조사와 직접적인 소통으로 정보를 얻고 평가하는 과정도 거쳤다. 인권과 인간의 주체성 부분은 관련된 규약을 검토하였다. 프라이버시와 데이터 거버넌스의 경우 다이슨에서 제공하는 개인정보처리규정을 보며, 문제가 발생할 수 있는 부분을 살펴보았다. 각 항목별 구체적인 평가방식은 아래와 같다.
3.1. 고객센터 문의(help@kr.dyson.com)
당사에 소비자들이 우려하는 개인정보 유출 문제 및 공정성 문제를 공유하여 관리방안과 해결책제시를 요구한다.
3.2. 개인정보 처리방침 검토
제조사가 수집하고 처리하는 데이터의 관리 방안을 검토한다. 이는 데이터의 수집, 저장, 사용, 보호 방법 등을 포함하며, 데이터 처리 방안이 개인정보 보호법 등 규제에 적합한지 평가합니다. 데이터 처리 방안의 투명성과 보안성을 평가하여 소비자의 신뢰도를 확인한다.
3.3. 이해관계자 인터뷰
이해관계자의 다양한 의견을 수렴하여 제품의 영향을 다각도로 평가한다. 이를 위해 다음 그룹과 인터뷰를 진행한다. 소비그룹과의 인터뷰는 사용자 리뷰분석을 통해 실제 제품을 사용하는 소비자들의 경험과 피드백을 수집하여 제품의 장단점을 파악한다. 제조그룹과의 인터뷰는 제조사와의 인터뷰 및 고객센터 질의를 통해 제품의 개발 과정, 품질 관리, 고객 서비스 방안을 확인한다.
3.4. 애플리케이션 리뷰 분석
소비자가 작성한 애플리케이션 리뷰를 분석하여 제품의 실제 사용 경험과 관련된 문제점을 파악한다. 리뷰 분석을 통해 사용자가 자주 언급하는 긍정적 요소와 부정적 요소를 식별하고, 이를 기반으로 제품이 잘 개선되고 있는지 추적하여 공정성 측면에서 이해관계자의 참여가 적절하게 이루어졌는지 확인한다.
위 제시된 영향평가방법 중 각 영향평가항목을 평가하는데 적절하다고 생각되는 것들을 선택하여 영향평가를 실시한다.
- 영향 평가 결과
2.1. 인권보장과 인간의 주체성 및 관리감독
2.1.1. 인권 보장
경제적·사회적 및 문화적 권리에 관한 국제규약 (International Covenant on Economic, Social and Cultural Rights, 이하 ICESCR)[1]의 7조 (2)항에 따라 근로자 자신과 그 가족의 품위 있는 생활을 위해 다음과 같은 권리를 가지는 것을 인정한다. (1) 안전하고 건강한 근로조건, (2) 휴식, 여가 및 근로시간의 합리적 제한, 공휴일에 대한 보수와 정기적인 유급휴일과 같은 권리를 보장받는다. 따라서, 로봇 청소기는 근로자의 한정된 휴식 및 여가 시간을 더욱 잘 보장해줄 수 있다는 점에서 사회에 긍정적인 영향을 끼친다. 그리고 ICESCR의 15조 1.(b)항 ‘과학의 진보 및 응용으로부터 이익을 향유할 권리’를 로봇 청소기 사용자에게 보장하고 있다.
한국의 헌법 제 10조에는 “모든 국민은 인간으로서의 존엄과 가치를 가지며, 행복을 추구할 권리를 가진다”라고 규정하고 있다. 행복추구권이라고도 불리는 이 항목에서 행복은 최소한 인간이 고통이 없는 상태 내지 만족감을 느낄 수 있는 행복한 상태를 의미한다. 따라서 로봇 청소기는 가사 노동의 고통 중 일부인 드넓은 바닥을 자동으로 청소하여, 가사 노동의 양을 줄이고, 가정 내부의 환경을 청결히 함으로써, 사용자를 행복한 상태에 가까워지도록 돕는다. 따라서 로봇 청소기는 소비자 및 사용자에게 행복을 주는 기계라고 평가할 수 있으며, 인권 보장 측면에서 소비자의 인권을 보장하고 사회에 긍정적인 영향을 미친다고 평가할 수 있다.
하지만, 이 로봇이 바닥 청소만이 아닌 다양한 기능을 가진 인공지능 로봇으로 발달하여, 휴머노이드의 형태를 띄게 된다면, 청소 노동자의 권리와 관련된 사항(우리나라 헌법 제15조, “모든 국민은 직업선택의 자유를 가진다.”) 중 자유로운 직업 선택의 자유에 관한 권리를 침해할 수 있을 것이다.
인간의 주체성 및 관리와 감독
다이슨 360 vis nav를 비롯하여, 일반적인 로봇 청소기는 청소 실행 과정을 이용자가 제어할 수 있는 기능을 제공한다. 특히 다이슨의 경우 MyDyson 어플리케이션을 통해서, <그림 1>과 같이 청소 구역에 따라 조용한, 강력한, 자동모드 등 다양한 타입의 청소 강도를 정할 수 있으며, 이용자의 의도대로 동작하게 만들 수 있다. 사용자가 외출 중일 때 청소하도록 예약하거나, 이동이 많은 장소를 더욱 자주 청소하도록 설정할 수 있다. 따라서 인간이 주체성을 가지고, Human-in-the-loop 방식으로 AI 시스템을 관리할 수 있는 기능을 다이슨 로봇 청소기가 제공하고 있으며, AI로 인해 발생할 수 있는 잠재적인 위협 및 불편을 사용자가 관리할 수 있도록 한다.
[1] UN General Assembly, International Covenant on Economic, Social and Cultural Rights, United Nations, Treaty Series, vol. 993, p. 3, 16 December 1966, https://www.refworld.org/legal/agreements/unga/1966/en/33423 [accessed 22 May 2024]
그림 1. 청소구역 제어
다이슨 로봇 청소기 시스템은 <그림 2>와 같이 청소 실행 결과를 실내 지도에 매핑하여, 이용자에게 어떤 구역이 먼지가 많은지와 청소 실행 시간, 청소한 면적, 충전 횟수를 보고서 형식으로 제공한다. 이는 EU AI Act 제 14조에서 언급하는 자연인의 감독 기능을 적절한 인터페이스를 통해 제공한다고 평가할 수 있다.
1.1.1. 그림 2. 청소실행 결과 리포트
1.2. 기술적 견고성
로봇청소기는 일상의 일을 자동화함으로써 이용자의 삶의 질 향상에 기여하는 것을 목표로 한다.[1] 그러나 일반적인 로봇청소기는 특정한 바닥 (딱딱한 바닥 등)에서의 청소 성능이 떨어지거나, 좁은 구석에 박혀 움직이지 못하는 사례·충전기로 돌아오지 못해 방전되는 사례·천장·계단을 청소하지 못하는 사례 등이 단점으로 지적되고 있다.[2] 본 영향평가는 영향평가의 대상인 다이슨 360 vis nav가 이러한 단점을 극복하고 일반적으로 로봇청소기에 요구되는 수준의 성능을 달성하고 있는지 영향평가를 실시하였다.
Dyson 360 vis nav는 공식 홈페이지[3]에서 강력한 흡입력을 지속적으로 발휘할 수 있음을 홍보하고 있다. 다이슨 하이퍼미디엄 모터가 최대 110,000rpm의 속도로 회전하며 다이슨 무선 청소기의 강력한 흡입력을 만들어 내며, 다이슨의 싸이클론이 100,000g의 원심력으로 공기 흐름에서 먼지를 분리하기 때문에 로봇 청소기가 집 안을 청소하는 동안 흡입력이 저하되지 않는다고 밝혔다. 소프트웨어적으로는, 공간에 따른 개별 모드 설정을 통해 MyDyson™ 앱으로 각 구역에 맞는 청소 모드를 선택할 수 있다는 점을 어필하고 있다.
4.2.1. 기술적 견고성에 대한 정량적 평가
평가 대상 시스템의 정량적 성능을 알아보기 위해 비슷한 가격대의 제품군과 로봇청소기를 평가하는데 흔히 사용되는 스펙을 가격비교사이트[4]에서 비교하였다. 비교군으로 설정한 에코백스 T30 프로 옴니 DDX14, 드리미 L20 Ultra 모두 영향평가 대상과 비슷한 가격대 (130만원 내외)를 형성하며, 가격비교사이트 판매 순위에서도 상위권에 랭크된 제품이었다. 로봇청소기의 하드웨어를 평가할 때 이용자가 주로 평가하는 성능인 흡입력, 문턱넘기, 먼지통 용량, 사용시간, 충전시간을 비교하였다.
| 흡입력 (Pa) | 문턱넘기 (cm) | 먼지통 (L) | 사용시간 (분) | 충전시간 (분) | 가격 (천원) |
|
| Dyson 360 vis nav | 6500 | 2.1 | 0.57 | 65 | 150 | 1307 |
에코백스 T30 프로 옴니 DDX14 |
11000 | 2 | 0.3 | 290 | 186 | 1290 |
| 드리미 L20 Ultra | 7000 | 2 | 0.35 | 260 | 270 | 1390 |
<표 1> 비슷한 가격대의 로봇청소기와 비교
우선 흡입력의 경우, 홍보와는 달리 비교 대상 제품 대비 우월한 성능을 내지 못하고 있는 것으로 드러났다. 실제 로봇청소기 이용 시에 중요한 요소인 사용 시간도 다른 제품들은 4시간 내외의 지속 시간을 보이는 반면, 영향평가대상은 1시간 내외의 사용 시간을 보여 배터리 성능에서도 크게 처지는 것을 발견했다. 이렇듯 낮은 사용시간에도 불구, 충전 시간 또한 2시간 30분 내외로 사용시간이 4-5배인 다른 제품에 비해 특별히 우월한 성능을 보이지 못했다. 영향평가대상이 다른 제품에 비해 다소 나은 요소는 문턱넘기와 먼지통 용량이었으나, 몇몇 로봇청소기가 지원하는 자동 먼지통 비움 기능을 제공하지 않아 이용자 경험 측면에서는 큰 먼지통 용량을 기술적 견고성의 가점요소로 고려하기는 어려워 보인다.
4.2.2. 기술적 견고성에 대한 정성적 평가
정량적 평가로는 소프트웨어나 이용자 경험 측면을 제대로 평가하기가 어려워, 국내외 리뷰들을 중심으로 영향평가 대상의 기술적 견고성에 대한 정성적 평가를 수행하였다. 특히, 앞서 정량적 평가에서 영향평가대상의 흡입력이 타 제품 대비 우월하지 않음을 밝힌 바 있는데, 이러한 성능 차이 중 어떠한 요소가 이용자들이 체감하는 기술적 견고성에 가장 큰 영향을 끼치는지 확인하고자 하였다.
이용자들이 느끼는 가장 큰 불편감 중 하나는 네비게이션 성능이 뛰어나지 않다는 것이었다. 영향평가제품은 레이저(LIDAR)가 아닌 360도 어안(魚眼; fish-eye) 카메라를 이용하여 길을 찾고 장애물을 탐지한다. 그러나 몇분 안에 이러한 태스크를 해내는 LIDAR 시스템과 달리 영향 평가 대상은 비교적 작은 공간에서 3D 지도를 만드는데 약 30분의 시간이 소요되었으며,[1] 집에 존재하는 큰 물체들에 계속 충돌하며 멈추지 않는 등의 사례가 보고되었다.[2] 이러한 네비게이션 성능의 문제는 연쇄적으로 충전기로 알아서 돌아가지 못하는 문제로 이어져,[1] Smith, Michael. "Dyson 360 Vis Nav Review." TechHive, https://www.techhive.com/article/2129864/dyson-360-vis-nav-review.html. [Accessed 29 May 2024].
[2]Smith, Michael. "I Tested the New Dyson 360 Vis Nav Robot Vacuum: 3 Things I Liked and 3 I Didn’t." Tom's Guide, https://www.tomsguide.com/opinion/i-tested-the-new-dyson-360-vis-nav-robot-vacuum-3-things-i-liked-and-3-i-didnt. [Accessed 29 May 2024]
[1] Klapperich, H., Uhde, A. and Hassenzahl, M. (2020) Designing everyday automation with well-being in mind. Pers. Ubiquit. Comput., 24, 763–779.
[2] Honig, S., Bartal, A. and Oron-Gilad, T. (2020) Using customers’ online reviews to identify and classify human robot interaction failures in domestic robots. In Companion of the HRI2020 International Conference on Human-Robot Interaction, pp. 251–253. ACM, New York. https://doi.org/10.1145/3371382.3378323.
[3] "Dyson 360 Vis Nav." Dyson Korea, https://www.dyson.co.kr/dyson-360-vis-nav. [Accessed 29 May 2024]
[4] "스마트한 쇼핑검색, 다나와!" Danawa, https://prod.danawa.com. [Accessed 29 May 2024]
이용자들이 스스로 로봇청소기를 옮겨놔야 했다는 후기도 존재했으며,[1] 영향 평가 대상의 인공지능 알고리즘이 제대로 기능하지 못하고 있음을 시사한다.
앞서 정량적으로 배터리 성능이 다른 제품군에 크게 미치지 못함을 밝힌 바 있는데, 이는 이용자들의 실제 후기에서도 확인할 수 있었다. 어떤 사용자는 250 제곱피트(23 제곱미터)의 방을 부스트 모드로 청소하는데 6시간이 넘게 걸린다고 예측된 반면, 지속 시간이 매우 짧고 충전 시간은 매우 길어 로봇청소기가 방을 제대로 청소하지 못한다는 불만을 토로한 바 있다.[2] 이 외에도 구석 청소시 먼지가 그대로 남아있거나, 다른 고가의 제품은 제공하는 먼지통 자동 비우기나 물걸레 기능을 제공하지 못한다는 불만이 발견되었다.[3]
결과적으로, 영향평가대상의 기술적 견고성은 이해관계자의 기대 수준에 미치지 못한다는 것을 발견하였다. 특히 이들의 불만은 높은 가격에서 말미암은 것이 많았는데, 높은 가격으로 인해 제품에 대한 높은 기대가 형성된 반면 실제 성능은 그에 미치지 못해 생기는 불만이 많았다. 이에 펌웨어 업데이트를 통해 네비게이션 알고리즘의 성능을 높여나가고, 에너지 소모를 최소화하는 알고리즘의 개발을 통해 주어진 배터리 용량에서 이용자들이 원하는 성능을 유지하고 정확히 작동하도록 제품을 개선하는 것이 필요하다.
1.1. 프라이버시 및 데이터 거버넌스
다이슨의 vis nav는 카메라를 사용하여 공간을 매핑하고 MyDyson이라는 앱을 이용하여 기기를 작동시키므로 프라이버시 및 데이터 거버넌스 항목을 살펴볼 필요가 있다. 다이슨 홈페이지에서 제공하는 소유자 개인정보 처리방침 페이지[4]와 스마트 제품 처리방침 페이지[5]를 살펴보았다. 다이슨의 약관은 모든 나라에 똑같은 내용을 적용하고 있으며, 한국어 개인정보 처리방침은 영어로 작성된 약관을 번역해 둔 것이었다. 또한 다른 글로벌 기업에 비해 개인정보 처리의 방법과 보관 기간에 대한 설명이 자세히 적혀 있지 않았다.
먼저 소유자 개인정보 처리방침 페이지에서는 개인정보 보관 기간, 개인정보를 취급하기 위한 법적 기준 및 정당한 근거를 언급한다. 보관 기간에 대해서는 “당사가 개인정보를 보관하는 실제 기간은 개인정보의 유형과 사용되는 방법에 따라 달라집니다. 예를 들어, 제품을 구입하는 경우 당사는 최소 제품 보증 및 보장 기간 동안 고객 정보 및 구매 정보를 보관합니다.”라고 언급할 뿐, 구체적으로 개인정보 유형에 따른 보관 기간에 대해 명시하지 않고 있다. 또한 국가의 정보 보안 및 개인정보 보호 법률에서 규정한 개인정보를 취급하기 위한 소위 ‘법적 기준’ 또는 ‘정당한 근거’를 준수하기 위해 특정 방식으로 고객의 개인정보를 처리한다고 한다. 이 또한 구체적으로 어떤 방식을 사용하는지 명시하지 않고 있다. 다이슨의 개인정보 처리는 당사의 제품 및 서비스, 전반적인 다이슨 사용 경험을 직간접적으로 개선하는 목적을 가진다고 명시되어있다. 고객 개인정보의 처리에 관한 정당한 근거를 다이슨이 가지고 있는지 없는지와 관계없이, 고객의 개인정보를 보호하기 위한 약속을 지키기 위한 조치를 취한다고 한다. 우리는 다이슨이 공개한 정보상으로는 개인정보 처리에 관한 투명성과 구체성이 부족하다고 평가하였다. 다이슨은 로봇 청소기 및 스마트 가전기기의 개발을 고도화하는 과정에서, 각 제품군의 개인정보 처리 방법을 구체화하고, 투명하게 정보를 사회에 공개해야 할 것이다.
스마트 제품 처리방침에서는 MyDyson 앱과 로봇 청소기 자체에 대한 수집 데이터 및 사용 방법에 대한 내용이 있다. 먼저 MyDyson 앱에서는 이메일 주소 및 암호와 같은 로그인 정보, 사용 기기 정보, 제품 성능 정보, 쿠키 정보를 수집한다. 사용 기기 정보에는 운영 체제, 기기 브랜드, 사용 분석 데이터 등의 정보가 포함되어있으며 쿠키 정보에 대한 처리 방침은 쿠키 처리방침에서 따로 살펴볼 수 있게 되어있다. 데이터 사용 방법에 대해서는 고객의 앱 계정을 본인만 접속할 수 있도록 보안한다고 되어있는데 구체적으로 어떤 방식으로 보안이 이루어지는지는 알 수 없었다. 또한 앱의 문제가 발생하면 이를 보완한 원활한 실행 및 앱 안에서의 컨텐츠를 제공하기 위해 데이터를 수집한다고 한다.
계정 정보와 로그인 정보를 안전하게 저장하기 위해서 Amazon Web Services 및 Google Cloud 등 제 3자 클라우드 시스템 제공업체를 이용하며, Amazon Alexa나 Google Home, Apple Siri에 연결하여 음성 시스템을 사용하는 경우 이러한 제 3자와도 개인정보를 공유한다. 제 3자와 공유하는 개인정보에 대해서는 제 3자의 처리방침에 대해서 살펴볼 필요가 있으나 여기서는 제품의 핵심사인 다이슨의 개인정보 처리방침에 대해서만 영향평가를 수행하였다. 클라우드 시스템 제공업체를 사용하여 개인정보를 저장하는 것은 조건부로 프라이버시에 대한 안전성을 충족한다. 클라우드 시스템 제공업체 자체가 안전하게 데이터를 저장하기를 기대하지만, 실제로 클라우드 시스템 제공업체인 네이버 클라우드를 통해 고객의 개인정보가 유출된 ‘라인야후’[6]의 사례가 있기 때문이다. 따라서 모범적인 보안 기술을 갖춘 클라우드 시스템 제공업체를 파트너사로 선정하고, 관련 보안 기술에 대한 평가도 소비자에게 공개하는 것이 바람직하다.
로봇 청소기에 대해서는 아직 다이슨 360 vis nav 제품에 대한 정보 처리방침은 업데이트 되어있지 않았다. 다이슨의 이전 로봇청소기인 360 Eye와 360 heurist 제품에 대한 정보 처리방침이 있었으며 다이슨 360 vis nav가 두 제품의 기능을 모두 갖추었으므로 두 제품의 정보 처리방침을 살펴보았다. 360 Eye는 적외선 센서를 이용하여 집 안의 이미지를 수집하고 구역에 대한 지도를 생성하기 때문에 개인정보가 어떻게 처리되는지 투명하게 공개되어야 한다. 360 heurist는 센서를 사용하여 집 안의 지도를 만들며 로봇이 청소할 실내 구역, 각 구역에서 사용할 전원 모드, 피해야 할 구역을 사용자화할 수 있다. 이 때 360 Eye 카메라에는 수집하는 이미지가 기기에 남아있으나 다이슨이 이것을 확인하지는 않는다고 명시되어있다. 또한 형태와 명암만을 저장하며 카메라 외부에 따로 저장하거나 전송하지 않는다. 이 점은 개인정보가 안전하게 저장될 수 있다고 볼 수 있으나 외부 공격에 의해 기기에 저장된 이미지가 유출될 우려가 있는지 살펴볼 필요가 있다. 작성된 지도에 대한 정보는 앱에 저장되는데 앱은 다이슨이 통제할 수 없는 사용자의 개인 스마트 기기에 있으므로 사용자의 스마트 기기가 해킹될 경우에 대한 대처의 필요성도 생각해볼 수 있다. 로봇 청소기에 수집된 사용량 정보는 수리 및 유지 보수 서비스를 아웃소싱하는 국가에 소재한 제 3자 계열사에서 사용할 수 있으나 제품을 앱에 연결할 때만 제공한다고 한다.
종합적으로 다이슨이 로봇 청소기와 관련한 개인정보의 보관 기간 및 처리 방식을 투명하게 공개하지 않고 있다고 판단하였다. 하지만 개인정보를 사용한 후에는 사용 내역을 공개함으로써 사용 이후의 투명성은 지키는 것으로 보인다. 핵심 기능 중 하나인 집안 구조 매핑 이미지 및 청소 정보 지도에 관한 보안 대책을 적절히 갖추고 있지 않거나, 갖추고 있음에도 어떤 방식으로 안전히 처리되는지를 공개하지 않았다. 청소 주행 기록에 관한 정보는 익명화 처리하여 수집되고 있으나, 구체적으로 개인정보 처리방침이나 스마트 기기 정보 처리방침에 처리 방식과 수집 방식을 명시하지 않았다는 문제가 있다.
1.2. 공정성
EU 가이드라인에서 공정성 관련하여 제시하고 있는 내용은 크게 불공정한 편견 회피, 접근성, 이해 관계자 참여, 이렇게 3가지 분야로 나눌 수 있다. 불공정한 편견 회피 분야에서는 데이터에서 최종 사용자와 대상의 다양성과 대표성을 고려하는 것이 중요하고, 접근성 분야에서는 나이, 성별, 능력 또는 특성에 관계없이 모든 사람들이 AI 제품이나 서비스를 사용할 수 있도록 사용자 중심으로 AI 시스템을 설계하는 것, 그리고 이해 관계자 참여 분야에서는 AI 시스템의 설계 및 개발 과정에서 가능한 한 많은 이해 관계자의 참여를 포함하는 메커니즘을 고려하고 배포 후에도 이해 관계자로부터 정기적인 피드백을 받는 것이 중요하다. 이 중, 접근성과 이해 관계자 참여 분야에서 대상 시스템에 대한 영향 평가를 실시하였다.
1.2.1. 이해 관계자 참여
해당 제품을 사용하기 위해 함께 사용해야하는 어플리케이션 MyDyson에 달린 리뷰 중 별점이 3 이하인 리뷰에 대해 WordCloud 분석을 통해 평가를 진행하였다. 2022년 10월 12일을 기준으로 Dysonlink에서 MyDyson으로 리브랜딩 된 이력이 있어, 해당 일을 기점으로 전, 후 비교를 통해 사용자의 요청사항이 얼마나 반영되었는지 평가해 보았다.
[1]ibid.
[2] Smith, Michael. "Dyson 360 Vis Nav Review." TechHive, https://www.techhive.com/article/2129864/dyson-360-vis-nav-review.html. [Accessed 29 May 2024]
[3] Welch, Chris. "Dyson’s Vis Nav Robot Vacuum Hands-on." The Verge, https://www.theverge.com/24098771/dyson-vis-nav-robot-vacuum-hands-on. [Accessed 29 May 2024]
[4] Dyson. "Dyson Privacy Policy." Dyson, https://privacy.dyson.com/ko/privacy-policy.aspx. [Accessed 29 May 2024]
[5] Dyson. "Dyson Smart Machines Notice." Dyson, https://privacy.dyson.com/ko/smart-machines. [Accessed 29 May 2024]
[6] 日라인야후 "개인정보 44만건 유출 가능성…네이버 통해 피해" , 연합뉴스 https://www.yna.co.kr/view/AKR20231127138200073 [Accessed 29 May 2024]
<리브랜딩 전: 전체 리뷰 332건 중 199건 추출>
<리브랜딩 후: 전체 리뷰 95건 중 48건 추출>
리브랜딩 전, 소비자들은 ‘연결성’, ‘업데이트’, ‘와이파이’ 관련 불만사항을 지적해왔고, 리브랜딩 후에는 ‘연결성’, ‘로그인’ 관련 불만사항을 지적하고 있다. 업데이트 및 와이파이 관련된 문제는 해결했지만, DysonLink가 등장한 2016년부터 현재까지 연결성 관련 문제를 해결하지 못하고 있는 모습을 확인할 수 있다.
1.1.1. 접근성
낮은 구조와 작은 바퀴로 구성되어 있는 시스템의 특성 상, 계단을 통해 출입해야하는 복층 구조의 집이나 문지방으로 공간 분리가 되어있는 한국식 주택에서는 사용이 어려울 수 있다. 여러 공간에 대한 정보를 기억하고 2.1cm의 문턱을 넘는 기술을 통해 이를 일부 해결하고자 하였지만, 사용자가 직접 기기를 해당 공간으로 옮겨주고 세팅을 변경하지 않는 한 해당 시스템이 제공할 수 있는 효용을 온전히 누리지 못하여 집 구조에 따라 접근성에 차별이 생길 수 있음을 확인할 수 있다.
또한, 어플리케이션 리뷰 중 기기 이름을 한국어로 설정하면 오류가 발생한다는 글을 찾아볼 수 있었는데, 이는 사용 언어에 따른 차별을 발생시키고 있으며, 앞서 분석한 WordCloud에서 지속적으로 보여주고 있는 ‘연결성’에 대한 지적으로 미루어보아 디지털 약자에 대한 접근성 또한 우려된다.
- Discussion
2.1. Ethical tension
- 기업의 데이터수집 권한 vs 소비자의 프라이버시 : 소비자의 사용데이터를 많이 모으면 모을수록 기업입장에선 기술개발을 더 잘 할 수 있다 vs 소비자는 어떠한 과정에서든 본인들의 데이터가 사용되는 것을 우려한다.
- 기술적 견고성 vs 공정성 : 다이슨이 제품기술에 투자를 늘리면 어느 정도 기술적 견고성을 높힐 수 있다고 판단되지만 그로 인한 가격상승으로 일반 대중들이 다이슨의 기술력을 누리지 못하여 공정성 가치가 훼손된다.
2.2. 한계점
2.2.1. 제품을 직접 사용해볼 수 없어 어플리케이션을 이용하여 기기가 작동되는 것을 자세히 살펴볼 수 없었음. 어플리케이션 리뷰 평가의 경우 영향평가 대상인 Dyson 360 vis nav 외에 다른 제품들을 사용하면서 겪는 문제가 제기되었을 수 있음. 제 3자에게도 개인 정보가 공유되는 경우들에 대해서는 모든 정보 처리방침을 살펴보기엔 한계가 있었음. 영향평가 대상 제품은 최신 제품으로 정보처리 방침이 아직 업데이트 되어있지 않았음.
- 개선책 및 제언
기술적 견고성에 관하여, 다이슨은 소비자들에게 높은 가격에 비해 좋지 않은 기술력을 가지고 있다고 평가받고 있다. 우리가 영향 평가로 진행하며 판단해본 바로는 Dyson은 비교적 데이터 수집량이 적고, 특히 자율주행과 관련된 데이터는 수집 및 활용을 많이 하지 않는 것으로 판단하였다. 철저한 보안 대책 마련 및 투명한 정책의 공개를 전제로 사용자데이터를 수집해 AI시스템을 학습시켜 제품의 성능을 더욱 개선시켜야 한다.
앞선 단락에서 우리는 다이슨이 프라이버시 및 데이터 거버넌스 평가 항목에서 투명성과 구체성이 부족하다고 언급하였다. 각 문제점에 대한 해결책을 제시해보면 아래와 같다. 다이슨은 사용자의 집 내부와 관련된 데이터를 이용자의 기기에 저장하고, 이 정보를 직접적으로 활용하지 않으면서 이용자의 프라이버시를 보호한다고 한다. 그러나 이용자의 기기에 저장된 정보가 타인에게 유출될 우려가 있다. 따라서 집 내부 구조에 관한 이미지와 청소 결과를 기록한 지도를 비밀키, 공개키 방식의 비대칭 키로 암호화하여 저장하고, 비밀키를 가지고 있지 않은 제 3자가 이를 확인할 수 없도록 하여야 할 것이다.
Dyson 공식사이트에서 개인정보처리방침을 보면 2022년 이후 마지막 업데이트가 되지 않았고, 개인정보처리방침 한국어버전의 경우 내부서버 오류로 접근이 불가하다. 소비자들의 데이터거버넌스와 관련된 알권리를 보장하기 위해 개인정보처리방침을 최신화 해야하며, 내부 서버의 비영어권 개인정보처리방침 파트를 정상화시켜야 한다.
Dyson의 개인정보 처리방침과 비교되는 모범 사례로는 구글의 개인정보 처리방침[1]을 꼽을 수 있다. 구글의 약관은, 구글이 개인정보를 수집하는 항목과 각각의 목적을 사용자가 이해하기 쉬운 언어로 설명되어있다, 또한 개인정보 보호 진단이라는 기능을 제공하여, 이용자의 개인정보가 어떻게 사용되고 있는지 점검해볼 수 있는 기능을 제공하여, 이용자의 프라이버시 보호와 관련된 권리를 적극적으로 보호하고 있다.
다이슨의 개인정보 처리방침도 현행의 일반론적인 서술과 몇가지의 단순한 예시로 이루어진 방식보다는 이용자가 다이슨이 수집하는 개인정보에 대한 구체적인 정보와 보관 기간을 각 항목 및 서비스 별로 확인할 수 있고, 이를 처리하는 과정을 이해할 수 있도록 개선해야한다. 또한, 고객이 문의를 따로해야 개인정보 포털에 접근 가능한 링크를 제공받는 현재의 방식보다는, 다이슨 공식 홈페이지에서 이용자가 자신의 개인정보를 편리하게 관리할 수 있는 공개 시스템을 제공하여야 한다. 더욱 신뢰받을 수 있는 AI 시스템 공급자로 자리매김할 것이다.
- References
- 각주로 대체
<Appendix>
- 애플리케이션 리뷰 크롤링 코드
[1] Google. "Google Privacy Policy." Google, https://policies.google.com/privacy?hl=ko. [Accessed 29 May 2024]