사람들은 집에서의 행동 방식과 식료품점, 직장 또는 나이트클럽에서의 행동 방식이 근본적으로 다릅니다. 우리는 이러한 공간에 붙어 있는 불문율의 특정한 가정과 지식에 따라 적절히 옷을 입고 적절히 행동하며 다양한 경험을 합니다.

코로나19가 만든 새로운 일상(new normal)에 따라 이제 우리의 집이 사무실, 병원, 영화관, 은행이 되었습니다. 이것은 무엇을 의미할까요? 이러한 개별 AI 시스템이 서로 공유하지만 지나치게 공유하지 않도록 설계하려면 어떻게 해야 할까요?

대유행의 시작으로 인해 공간 사용 및 활용 방식이 변경되었으므로 AI 개발자와 디자이너는 가정을 재평가해야 합니다. 가정 생활과 직장 생활 사이의 경계가 모호해짐에 따라 이제 AIX 설계에 대해 많은 숙고를 해야 합니다. 즉 환경 기반 이해뿐만 아니라 최적의 사용자 경험을 제공하도록 AI를 정의하는 과정에 최종 사용자를 참여시켜야 합니다.

가정과 직장의 AI 지원 서비스가 모두 진화함에 따라 두 AI 서비스 사이의 경계선이 어디인지 고려해야 합니다. 이들은 상호 분리된 개체일까요, 아니면 어떻게든 병합되어 서로 소통할 수 있는 기능을 보유할까요? 이 질문은 누군가에게는 딜레마이고 누군가에게는 기회일 수 있지만, 공간에 대한 우리의 일반적인 가정을 재정립하는 상황에서 지금 논의할 가치가 있습니다.

Lyft 교통, 자전거 및 스쿠터 본부장인 데이비드 포스터는 상호 운용성이 핵심이라고 생각합니다.

“오늘날 AI는 보통 외딴 섬의 행태로 진화하고 있습니다. 자동차는 보통 우리 집과 직접 대화하지 않으므로, 차량 내에서 AI에 분명히 입력하지 않으면 결코 집과 소통하지 않습니다. 궁극적으로는 대화가 가능해질 것이라고 생각합니다. 왜냐하면 비 AI 기반 소비자나 기타 기기 또는 차량 등 많은 이기종 세계에서 AI가 작동할 것이라고 가정해야 하기 때문입니다. 따라서 상호 운용성이 핵심이 될 것입니다. 적응력과 예측력, 맥락 인식 능력도 핵심이 될 것입니다. “사람들은 보안이나 신원 또는 의도에 대한 우려 때문에 AI와 비 AI 기반 장치와의 대화, 즉 차와 집, 차와 직장의 대화에 대해 걱정할 수 있습니다. 그러나 AI를 사용하여 귀가 도중 집에 조명이나 난방을 켜달라고 요청할 수 있습니다…. 이건 의도와 맥락을 보여주는 것입니다. 오늘날 많은 사람들이 그러한 접근 방식을 편안하게 느낄 것이라고 생각합니다.” 최종 사용자를 위한 새로운 AIX를 설계할 때 우리의 환경을 고려하고 다양한 공간에서 인간으로서 가정하는 맥락적 현실을 고려하는 것이 더욱 중요해질 것입니다. 그러나 훨씬 더 중요한 것은 우리의 장소 감각과 행동, 특히 그 공간 사이에서 공유하는 정보를 기반으로 세계에 대한 인간의 이해력을 체계화하는 문제일 것입니다. 직장 AI와 가정 AI가 오락 AI 및 의료 AI와 융합할 때 시스템 전체의 데이터 공유 방식, 시기 및 목적에는 몇 가지 매우 심각한 의미가 있습니다. 개발자와 정책 입안자는 구축할 방화벽과의 조화를 고려해야 하며 최종 사용자는 모든 단계에서 과정의 일부가 되어야 합니다.

AIX 프레임워크 레벨 3의 주요 주제는 이해에 중점을 둡니다. 이 시점에서 AI는 사전 정의된 임무를 충족하기 위해 시스템 전반의 패턴과 원칙을 이해합니다.
특히 AI는 더 광범위한 임무를 달성하기 위해 학습 결과를 공유합니다. 그 임무가 무엇이든 마찬가지입니다. 한편으로 개인의 기분을 해석하거나 또 한편으로는 사회가 전체적으로 성장하고 배우도록 지원할 수도 있습니다.

AI의 목적으로서 정의된 가치는 최근 EU 소비자 그룹 유로컨슈머스(Euroconsumers)가 발표한 백서에 그 사례가 나왔습니다. 그것은 유럽의 지속 가능성 의제를 가속화하기 위해 소비자가 AI를 활용할 수 있는 방법에 대한 것입니다.

이 보고서의 두 가지 주요 권장 사항은 다음과 같습니다.

AI 기반 도구 및 보완 기술은 가정용 유틸리티, 식품, 이동성 및 소매업을 포함한 다양한 산업에서 지속 가능성을 향한 전환을 촉진하기 위해 도움이 될 수 있습니다.

현재 소비자 AI 경험에 대한 신뢰와 만족도는 매우 부족합니다.

녹색 및 디지털 전환을 위해 소비자 대면 AI 서비스를 개발하는 회사는 이 완벽한 기회를 이용하여 사람들이 지속 가능성 목표를 달성하고 동시에 신뢰성 있는 AI를 제공할 수 있음을 입증할 수 있습니다.

또한 모든 AI 개발자에게 신뢰가 가장 중요하다는 엄중한 경고가 있었습니다.
마르코 피에라니(Marco Pierani) 대변인은 “소비자의 신뢰가 없다면 AI는 진정한 잠재력을 발휘할 수 없을 것”이라고 말했습니다. “신뢰가 없으면 피해만 줄 것입니다. 기술 기업은 그 어느 때보다도 소비자의 삶을 개선할 뿐만 아니라 사회 전체를 개선하는 AI를 만들기 위한 노력을 극대화해야 합니다.”

3A 인스티튜트(3A Institute)의 부소장인 알렉스 자피로글루(Alex Zafiroglu)에게 있어 AI의 목적은 최종 사용자의 근본적인 문제를 해결하는 것을 의미합니다. 이 목적은 우리의 목표에 부합해야 하며 AI의 이해와 기능을 보강하는 데 필요한 맥락입니다. “특히 [AIX 프레임워크]와 같은 AI 경험 프레임워크를 고려하려면 사용 로드맵이나 경험 로드맵이 필요합니다. 그리고 그 경우, 솔루션의 맨 끝에 있는 인간, 즉 업계에서 기본적으로 최종 사용자라고 부르는 인간에 대해 매우 심각하게 생각해야 합니다. 맥락은 무척 중요하기 때문에 특정 맥락에서 인공 지능 솔루션을 적용하여 생성되는 가치에 대해서도 숙고해야 합니다. 최종 사용자와 직접적인 고객 모두를 위해 어떤 목적으로 솔루션을 구축하고 있는지 생각해야 합니다.”

감성적 동반자 로봇 키키(Kiki)를 만든 조에틱 AI(Zoetic AI)의 공동 설립자이자 CEO인 미타 윤(Mita Yun)은 최근 블로그에서 다음과 같이 설명합니다. 우리는 알렉사(Alexa)에게 성격이 있다고 생각하지만, 그건 단지 특정 일에 특정 방식으로 반응하는 것, 즉 특정 질문이나 요청에 따르거나 따르지 않는 것일 뿐입니다.
“알렉사에게는 성격이 없기 때문입니다. 거의 모든 단일 AI 또는 음성 기반 제품에는 성격이 없습니다. T푸드 네트워크(Food Network)에서 레이철 레이(Rachael Ray)의 “성격”이 알렉사(Alexa)의 목소리를 통해 어떻게 드러날 것인지 논의하는 것은 그녀의 목소리에 표현을 추가한다는 의미입니다.

다른 한 편으로 성격과 맥락에 관해서 말하자면, 성격은 개인화만큼 중요한 것이 아니라는 주장이 있습니다. 이와 관련하여 고민할 질문들이 있습니다. 한 가지 핵심 질문은 ‘기술로 인해 훨씬 더 개인적인 실시간 참여가 가능해지면서 AI 시스템 및 애플리케이션 개발자는 무엇을 고려해야 하는가’입니다.

인간이 비언어적 신호로 상호작용하는 것처럼 AI는 우리가 짜증나거나, 화나거나, 슬픈 상황 등을 어떻게 알고 적절하게 대응할 수 있을까요? 다양한 성격에 대해 다르게 대응하려면 어떻게 해야 합니까? 미래에는 가정용 AI, 차량용 AI 등이 아닌 개인 AI에 집중해야 할까요? 그 위험성은 무엇입니까?
가장 중요한 것은 모두 사람들의 독특한 성격의 맥락과 검증된 AIX 설계 방법론을 사용하여 AI가 다양한 사람들의 태도, 신념 및 성격을 구성하는 기타 모든 것을 고려할 수 있도록 하는 것입니다.

AI 시스템이 사람별로 다른 서비스를 제공하려면 어떻게 할지, 사람의 기분을 어떻게 이해할 수 있는지 등 대답해야 할 질문이 많습니다. 피드백 루프는 어떻게 우리의 성격을 형성할까요? 피드백을 주어야 한다면 어떤 성격을 보여줘야 할까요?

AI 회사 클라리파이(Clarifai)의 블로그에서 나탈리 플레처(Natalie Fletcher)는 피드백 루프에 대해 다음과 같이 말합니다. “피드백 루프는 AI 결과물이 정체되지 않도록 해 줍니다. 또한 모델의 새 버전을 훈련하는 데 사용되는 이 데이터의 실제 분포가 고객 예측과 동일하다는 점에서 피드백 루프는 상당한 이점이 있습니다. 이것이 없으면 AI는 성능의 저하를 유발하는 잘못된 경로일지라도 저항이 가장 적은 경로를 선택하게 됩니다. 피드 루프(feed loop)를 통합하면 모델의 훈련을 강화할 수 있고 시간 경과에 따라 계속 개선할 수 있습니다.”

확실히 피해야 할 것은 OCEAN 모델에 기반한 행동 모델을 사용한 케임브릿지 애널리티카-페이스북(Cambridge Analytica-Facebook) 스캔들(역주: 정보유출사건)을 반복하는 것입니다. OCEAN은 1980년대에 개인의 성격을 평가하기 위해 처음 개발된 개방성, 성실성, 외향성, 친화성 및 신경증(openness, conscientiousness, extroversion, agreeableness and neuroticism)의 약어입니다.

데이비드 포스터는 중요한 대상을 제어하는 AI 기반 시스템이 어떤 의미에서 완전히 개발되거나 규제되기 전에 시장에 출시될 경우에 대해 걱정합니다. “인간의 두뇌는 여전히 놀라운 컴퓨팅 장비라고 생각합니다. 그리고 오늘날 세상사를 처리하면서 우리가 무의식적으로 수행하는 모든 계산을 어떻게 하는지에 대해 완전히 이해하지 못합니다. “그러면 AI가 이와 같은 좋은 결정을 내리도록 모델링하는 방법은 무엇일까요?” 그리고 문제를 풀 좋은 답이 없는 경우, 결정을 모델링하는 방법은 무엇입니까?” 그리고 모든 사람의 성격이 다르기 때문에 현재와 미래에 약간의 현실감이 필요한데, 이는 알렉스 자피로글루(Alex Zafiroglu)의 통찰력 있는 관찰을 통해 얻습니다. “인류학자로서 그리고 선진 R&D 기술 회사와 제품팀에서 일한 사람으로서 말하건대 항상 모든 사람들에게 딱 맞는 솔루션은 구할 수 없을 것입니다.”

AI가 진정한 맥락인식을 하려면 아직 멀었지만, 맥락을 이해하는 AI의 좋은 예는 바로 작년에 아마존이 도입한 사이드워크(Sidewalk)입니다. 이것은 “이웃 네트워크(neighbourhood network)”에 대한 비전으로서 집 안팎에서 개인 기기가 더 잘 작동하도록 설계한 것입니다.

사이드워크는 장래에 애완 동물이나 귀중품을 찾는 데 도움이 되는 사이드워크 지원 기기에서부터 스마트 보안 및 조명, 가전 제품 및 도구의 진단에 이르기까지 다양한 경험을 지원할 것입니다.

사이드워크 및 이와 유사한 기타 서비스가 많이 반복 출시될 것이라는 데는 의심의 여지가 없으며, 이를 통해 특히 모든 개발자는 멋진 새 AI 애플리케이션을 만드는 것뿐만 아니라 최종 사용자를 위해 최적의 AI 경험을 만드는 데 필요한 맥락 계층을 고려합니다(그 동안에는 언제 터질지 모르는 윤리의 지뢰밭에서 조심스레 걷게 될 것입니다).

최종 사용자가 AI와 상호연결하는 방법과 관련하여 IBM은 자사 웹사이트에 “(맥락 있는) 대화로 AI 미래를 안내하는 방법”이라는 제목의 게시물을 통해 다음과 같이 지적합니다. “지난 몇 년 동안 인공 지능의 발전은 대중의 상상력을 사로잡았고 AI가 주입된 비서를 널리 수용하게 되었습니다. 그러나 이러한 가속화되는 혁신 속도로 인해 기술의 진행 방향과 사회에 어떤 영향을 줄지에 대한 불확실성도 동반 증가됩니다.”

“AI의 발전으로 인해 3~5년 안에 컴퓨터의 대화 기능을 훨씬 더 정교하게 만들어 컴퓨팅에 크고 급격한 변화를 촉진할 것이라는 의견에는 모두 동의합니다. 그리고 기계를 도와 맥락을 마스터하게 만드는 것이 그 핵심입니다. 맥락은 효과적인 대화에 필요한 중요한 요소 중 하나입니다.”

맥락은 여러 가지로 정의할 수 있지만 결국 AI가 환경을 이해하거나 상황에 따라 적절한 방식으로 행동하기 위해 신호를 모두 읽을 수 있게 만드는 것입니다. 우리 인간은 항상 맥락적 단서를 읽지만 그것을 통틀어 ‘상식’이라고 부릅니다. 그러나 AI 시스템과 제품의 경우 상식은 전혀 일반적이지 않습니다.

이 보고서에 대한 인터뷰에서 조지아공과대학교의 컴퓨팅 학과장인 찰스 이스벨(Charles Isbell)은 “우리가 인간으로서 쌓아온 상식과 가정을 기계에 가르치는 것이 가능하다고 믿습니까?”라는 질문을 받았습니다. “제 대답은 ‘예’입니다. 우리는 이것을 구축할 수 있으며 실제로 이러한 종류의 개념을 구축해야 합니다. 그리고 그 방식은 이야기를 중심으로 구성한다고 생각합니다. 우리는 일이 어떻게 진행되어야 하는지에 대한 이야기를 스스로에게 말하고, 이러한 종류의 데이터 구조와 경험을 구축함으로써 하나씩 차례로 일반화할 수 있게 만드는 것입니다. 그것은 전제된 가정과 어떤 관련이 있을까요?” “글쎄요, 거기에는 수많은 가정이 깔려 있습니다. 사람들은 모두 유사하다고 가정합니다. 당신과 같은 일을 하고 있는 사람의 경우, 그들이 앞으로 무엇을 할지 알기 때문에 그들의 행동을 예측할 수 있습니다. 당신이 근본적으로 만들어가는 생각은 상호작용하는 사물이 당신과 비슷하며 동일한 욕망과 충동, 동일한 물리적 한계를 가지고 있다는 것 등입니다.유사한 공통점이 많다고 생각하는 것이 바로 문제입니다.. “당신과 사물이 실제로 육체적으로나 심리적으로나 무엇이든 공통점이 없다면 무슨 일이 일어나고 있는지에 대해 동의할 수 있는 기본 언어조차 없을 수 있기 때문에 상식은 더 이상 통하지 않습니다.” 디지털 시대에는 콘텐츠가 왕이라고들 말합니다. 그래서 AI 경험을 위한 시스템과 제품을 개발하는 새로운 시대로 접어 들면서 맥락은 가장 존중해야 하는 여왕이라고 할 수도 있고, 왕좌를 좌우하는 진정한 힘은 어디에 있는지는 물론 다들 알고 있습니다.