과학과 기술 분야가 일반적으로 다양성이 부족하다는 것을 안다면, 현재 AI 시스템에서 볼 수 있는 많은 편향의 핵심 요소는 일반적인 다양성에 대한 표현이 부족한 대학 및 기술 회사의 실험실 때문임을 쉽게 추론할 수 있습니다.
작년에 뉴욕대학교의 AI 나우 연구소(AI Now Institute)에서 발표한 연구에서는 “다양성 재앙”이 AI의 편향을 영구화시키고 있다고 결론지었습니다. 보고서에 따르면 페이스북과 구글의 AI 연구원 중 여성은 각각 15%와 10%에 불과합니다.

그러나 단순히 포괄성을 장려하려는 솔루션은 실제로 추가 피해를 유발할 수 있습니다. 동일 연구에 따르면 ‘여성의 기술 분야 종사’을 장려할 때 초점이 너무 좁아져서 다른 사람보다 백인 여성에게 특권이 부여될 가능성이 높다고 합니다. 보고서의 설명에서 따르면, “인종, 성별, 기타 정체성과 속성의 교차가 사람들의 AI 경험을 어떻게 형성하는지 인정할 필요가 있다”고 합니다.

그리고 성별 다양성이 중요하지만, 인종, 종교 및 장애도 포괄적인 AI 시스템을 구축할 때 고려해야 할 여러 요소의 일부입니다. 예를 들어 ‘Black in AI’와 ‘LatinX in AI’는 인공 지능 분야에서 블랙과 LatinX의 존재를 높이는 데 전념하는 조직입니다.

그러나 이러한 조직은 주요 글로벌 AI 허브 중 하나인 미국에 뿌리를 두고 있습니다. 기술이 전 세계 사람들의 개인과 직업 생활에서 보편화됨에 따라 소득 수준에 관계없이 모든 인구가 AI와의 협업 및 동거에서 혜택을 받을 수 있게 하려면 어떻게 해야 할까요?

이미 수립된 많은 글로벌 이니셔티브들은 연구소에서부터 더 나은 대표성을 보장함으로써 더욱 평등한 AI의 미래를 위한 지원을 목표로 합니다. 아프리카 수리과학 연구소(African Institute for Mathematic Sciences)는 차세대 아인슈타인 포럼(NEF)을 주최하여 아프리카의 혁신가들이 전 세계와 협력할 수 있는 플랫폼을 구축하는 일에 전념합니다.
아프리카, 아시아, 중동 및 남미 전역에 걸친 이 이니셔티브 및 다른 많은 이니셔티브들이 소비자 중심 기술을 만드는 회사에 더 큰 관점을 제공하길 바랍니다. 나이지리아 변호사인 키오마 놔오디케(Chioma Nwaodike)는 최근 블로그 게시물에서 다음과 같이 언급했습니다. “신흥 기술이 사회, 경제, 정치적 조건에 따라 지역과 국가에 각기 다른 영향을 미치는 방법에 대해 더 잘 이해하기 위해서는 개발도상국의 관점에서 인공 지능에 대해 논의해야 합니다.”

조지아공과대학교의 컴퓨팅 학과장인 찰스 이스벨(Charles Isbell)은 컴퓨팅의 다양성 향상을 옹호하는 사람이기도 합니다. 그는 가장 공평하고 접근 가능한 AI 솔루션을 구축할 수 있는 방법을 고려할 때 좋은 출발점은 다양성임을 믿습니다. “인간 중심의 설계에 대해 이야기하면서 사람들을 대화에 참여시킬 때는 단지 누군가를 데려온다는 의미가 아니기 때문에 매우 조심해야 합니다. 우리가 여러 사람을 불러들이는 것은 특정인이나 특정 부류의 사람을 위해 무언가를 설계하는 것이 아니라 광범위한 사람들을 위해 디자인하기 때문입니다. 그렇지 않은 경우, 실제로 시스템의 기능이 제한될 뿐만 아니라 광범위한 사람들의 지원을 위한 접근도 제한될 것입니다.” “따라서 설계자, 테스트 수행자, 프로세스에 관련된 사람들 사이에 다양성이 없다면, 해결책도 편협하게 될 것입니다. 일부에 집중하게 되면 도구가 점점 더 강력해짐에 따라 더 많은 사람들에게 더 큰 위험이 되고 더 많은 사람들을 해치게 됩니다.”

AI의 발전과 함께 사물 인터넷(IoT), 5G 및 엣지 컴퓨팅과 같은 인접 기술이 발전함에 따라 개인정보 보안 문제와 고용주, 집주인, 교육자 및 정부가 AI 시스템을 중복 소유하고 운영하는 것에 대한 심각한 우려가 발생하고 있습니다. 이러한 다양한 시스템의 우선 순위와 사용자가 시스템을 중지할 수 있는 기능과 관련하여 많은 윤리적 질문에 답해야 합니다.
하라야마 박사는 최근 일본 정부와의 작업을 통해 Society 5.0를 창시한 연구원 중 한 명이며, 그녀가 창시한 Society 5.0는 AI 시스템 및 기타 기술이 기본이 되는 미래도시를 개념화하였습니다.

이 연구에서는 현대적이고 안전한 Society 5.0을 구축하기 위해 강력한 사이버 보안과 안전을 갖춘 환경을 구축해야 한다고 주장합니다. 기술개발을 통하여 공유할 개인 데이터의 양, 개인의 사생활 보호 수준, 공개적으로 사용 가능한 정보의 종류를 선택할 수 있도록 하는 것이 특히 중요합니다.
사람들이 안전 기능을 제어하고, AI가 도출하는 계산과 결론의 과정 및 논리를 설명하고, 무엇보다 비상 시 AI에서 인간으로 제어 전환을 원활하게 수행하기위한 인터페이스를 제공하려면 연구자들은 AI 기술개발 시 무엇을 고려해야 할까요?

더욱 우려되는 것은 강력한 AI 시스템과 악의적인 행위자 간에 있을법한 인간-기계 협업입니다. 최근 유니버시티 칼리지 런던(UCL)의 연구원들은 학술논문, 뉴스 및 대중 문화를 기반으로 AI 기반 범죄 20건을 정리하였습니다. 무인 차량을 무기로 사용하는 등 많은 사례를 통해 실제로 AI를 통해 가장 큰 위협은 인간에게서 비롯된다는 점을 알 수 있습니다. 그렇다면 개발자는 사람들이 애플리케이션을 잘못 사용할 수 있는 모든 가능성에 대해 고려해야 할까요? 여기에서 정부의 역할은 무엇일까요? 정부는 이러한 변화를 따라갈 수 있을까요?

“현대 민주주의 사회에 살고 있는 우리 대부분은 정부가 특정 규제를 제정하여 삶을 더 안전하게 만들 여지가 있다고 생각합니다.” 유명한 로봇 공학자이자 발명가인 로드니 브룩스(Rodney Brooks)의 설명입니다. “우리는 고속도로에 규칙이 있다는 것을 알고 있습니다. 자동차에는 확실한 안전 기능이 있어야 하며 사람들은 확실한 규칙에 따라 운전해야 합니다. 그러나 AI가 등장하면서 이러한 규칙을 만드는 사람들이 현실에 맞는 규칙을 제정하지 못하는 경우가 맞습니다. 이로인해 이러한 규칙들이 때로는 너무 불필요하게 가혹한 경우도 있습니다.”

퀠컴 테크놀로지 네덜란드 B.V.의 기술 부사장이며 펠로우 AI 연구원인 맥스 웰링(Max Welling) 박사는 다음과 같이 동의합니다. “이러한 기기가 점점 더 복잡해지면 변화되는 기기의 인증은 어떻게 할까요? 우리는 이미 매우 복잡한 엔지니어링 부분인 비행기와 자동차에 대해 인증하고 있습니다. 그러나 이러한 제품들이 스스로 학습하게 되면 인증은 점점 더 어려워집니다. 그리고 이러한 기기의 인증 장벽을 극복하여 사용자에게 안전하고 개인정보를 보호하며 또한 공정하고 다른 모든 중요한 차원을 보장할 수 있게 한다면, 이것이 바로 진정한 의미에서의 학제간 노력입니다. 우리는 이러한 질문을 기술자에게 맡기면 안 됩니다. 우리는 세상에 대해 매우 제한된 시각을 갖고 있기 때문에 이러한 것이 매우 중요하다고 생각합니다.”

어떤 면에서 데이터 프라이버시와 AI는 기름과 물로 비유됩니다. 한편으로 딥 러닝 모델의 경우, AI에서 원하는 종류의 경험을 학습, 개선 및 제공하기 위해서는 방대한 양의 데이터가 필요합니다. 그러나 다른 한편으로 더 많은 애플리케이션이 제공되고 가정의 모든 가전 제품이 ‘스마트’해짐에 따라 우리의 거실이 실험실이 되어 더 나은 개인화된 경험을 제공하기 위해 우리 자신의 데이터를 사용하는데, 대중은 이 사실을 거의 파악하지 못합니다.

최근 넷플릭스 다큐멘터리 소셜 딜레마(The Social Dilemma)에서 많은 사람들에게 강조했듯이 사용자 자체가 판매되는 제품이며 우리 자신의 데이터가 우리에게 불리하게 사용될 수 있습니다. 우리 사회는 개인정보의 중요성을 지속적으로 강조하지만, 무료 여행을 할 수 있는 기회를 얻을 수 있다면 이러한 정보를 기꺼이 넘겨줍니다. 그렇다면 우리 삶의 유용한 목적을 위해 사용되는 AI가 맡은 일을 더 잘 수행하기 위해 데이터를 수집, 저장, 공유 및 사용하는 경우 어떤 의미가 있을까요?

목적은 우리가 공유하는 데이터 및 시스템의 맥락과 마찬가지로 중요한 개념입니다. 건강 데이터를 건강 앱과 공유하고 고용주와 업무 데이터를 공유하는 데 거리낌이 없을 수도 있지만, 코로나19 위기가 보여주듯이 우리의 가정은 이제 오락, 음식, 교육, 은행 및 사회 생활은 물론 건강과 일의 중심 허브가 되었습니다. 따라서 AI 경험 디자인은 우리가 데이터를 사용하고 공유하는 방식을 고려함으로써 AI가 목적을 달성하는 동시에 특정 데이터를 제자리에 유지하는 적절한 방화벽을 생성하도록 적절한 조화를 구축하는 것이 점점 더 중요해지고 있습니다.

IDEO의 이사인 보 팽(Bo Peng)은 고객과 협력하여 명확한 목적이 솔루션에 적용되고 AI 솔루션에 구축된 데이터가 그 목적을 벗어나지 않도록 합니다. “초기에 개발된 AI 기반 제품이나 서비스에 편향이 발생하는 것은 피할 수 없는 일입니다. 이러한 편향은 여러 요소를 충분히 고려할 수 없기 때문입니다. 현재로서는 이를 해결할 만한 특별한 해결책은 없지만 우리가 참여한 많은 프로젝트를 통해 고안한 몇 가지 원칙을 제안하고자 하는데, 이는 이러한 설계에 도움을 줄 것입니다. 첫째, 데이터 인식은 진실이 아닙니다. 해당 데이터 수집용으로 설계한 장치는 결국 사람이 설계한 것입니다. 데이터의 정확성뿐만 아니라 수집할 데이터와 제외할 데이터를 결정하는 데에도 내재된 편향이 있습니다.”

AI에 대한 윤리 논의는 아무리 많이 해도 부족하지 않으며 이는 좋은 일입니다. 이러한 논의를 통해 이미 긍정적인 영향을 미치는 일부 변화가 나타나고 있습니다. 예를 들면, IBM의 연구에 따르면 전 세계 AI 전문가 중 85%가 최근 몇 년 동안 업계가 더욱 다양해지고 있다는 의견을 냈습니다. 대부분의 응답자는 다양성이 AI 기술에 긍정적인 영향을 미쳤다고 말했습니다.

이와 마찬가지로 프로세스 초기부터 고려되던 사항은 인간 가치 적용, 인간 중심 디자인에 대한 인식 증가, 보안을 보장하고 AI 시스템의 오용을 방지하기 위한 보호장치 생성에 대한 질문이었습니다. 그러나 우리는 이러한 노력에 더욱 매진해야 합니다.

전 세계에서 많은 윤리연합회와 위원회가 설립되는 것도 중요하지만, 한편으로는 이들이 기술적 식민주의의 도전과제를 지속시키고 있습니다. 페이팔의 수석부사장 겸 최고기술책임자인 스리 시바난다(Sri Shivananda)는 다음과 같이 말합니다. “우리가 사는 세상에서 AI는 이미 우리 주변의 경험을 구동하고 있습니다. 계속 AI를 주목하게 만드는 것은 AI가 집단적 노력에 기여하는 엄청난 힘입니다. 그 힘에는 많은 책임이 따르며 그 책임은 업계에서 우리 모두가 존중해야 하는 것입니다.

“우리가 하고 있는 일은 이러한 첫 경험을 바탕으로 고객, 커뮤니티, 지구 전체에 대한 우리의 의무를 이해하고, AI의 기능에 실질적 방호 수단을 설치하려는 것입니다. 우리는 AI 구현 방법에 대한 새로운 표준과 모범 사례를 만들고 해당 윤리 강령을 준수하기 위해 업계 전반에 걸쳐 협력해야 합니다.”

우리의 가장 개인적인 공간에서 AI의 소비자 애플리케이션이 성공하려면 교육과 책임은 물론 인간 중심 디자인이 필수적입니다. 생명의 미래 연구소(Future of Life Institute)에서 설정한 일련의 원칙처럼 프레임워크가 유용한 지침이 될 수 있지만 업계, 정책 입안자 및 소비자 스스로가 이를 준수해야 합니다.

미국 작가 아이작 아시모프(Isaac Asimov)는 인공 지능이 제기하는 윤리적 문제에 대해 생각하기 시작한 최초의 사람들 중 한 명이며, 다음과 같이 말했습니다. “지식이 위험을 초래한다면 모르는 게 약이라는 말에 수긍할 수가 없었습니다. 해결책은 항상 지혜여야만 한다고 생각했습니다. 위험을 부정하는 대신에 안전하게 대처하는 방법을 배웠습니다.” 실제로 AI가 나아갈 길은 지적 호기심, 관심, 협력을 통해 인도되어야 합니다.

그렇다면 우리의 잘못된 기질을 배운 AI가 윤리적 문제를 제기하면 어떻게 해결할 수 있을까요? 소비자 AI를 디자인할 때 인간의 편향 없이 접근성과 포용성을 갖춘 최상의 의도를 갖도록 하는 방법은 무엇일까요? 현재 정답이나 오답은 없지만 올바른 방향으로 출발하는 데 도움이 되는 흥미로운 질문은 많이 있습니다.

벤지오는 “음, 저는 천성적으로 낙관적이지만 동전의 한 면만 보면 안 된다는 것도 압니다.”라고 말합니다. “위험을 주시하고 우려를 제기하는 사람들의 말도 들어야 합니다. 그래서 우리는 회사, 정부, 시민이 필요하다고 생각합니다… 사회의 규칙은 함께 좋은 방향으로 나아가도록 사업을 규제하는 법률인데, 이 규칙을 구성하는 방법에 대해 함께 의견을 모아야 합니다.”