소비자 제품의 AI는 반짝이는 음성 인식 초인종과 호루라기 이상의 가치를 지닙니다. AI는 사용자 경험과 통합되고 지속적으로 개선될 것으로 기대됩니다. 즉, 소비자 AI가 제대로 작동하려면 사용자의 피드백이 필요하고 사용자는 AI의 피드백이 필요합니다.

효과적인 피드백은 더 큰 목표를 달성하기 위해 기여해야 합니다. 제품의 목표를 달성하려면 사용자 경험에서 수동적으로 데이터를 수집하는 것만으로는 부족하고 해당 데이터를 이해해야 합니다. 페이스북의 “좋아요” 버튼은 가장 눈에 잘 띄고 가장 순수한 형태의 사용자 피드백이라는 주장이 있지만, 버튼의 목표는 단순히 콘텐츠를 좋아하는 사람 수를 집계하는 것 이상입니다. AI 알고리즘은 이러한 좋아요를 받아 인기 콘텐츠를 식별하여 사용자 피드에 표시할 콘텐츠를 맞춤 지정하는 데 사용합니다.

이동성과 관련하여 Lyft 교통, 자전거 및 스쿠터 본부장인 데이비드 포스터(David Foster)는 피드백 루프가 중요하다고 생각합니다. “AI는 인간이 이동 수단에 입력할 수 있는 다양한 사항을 집계하는 데 사용될 것이라고 생각합니다. 이러한 입력사항은 차량 자체에서 도로 상태, 교통 위험 등 주변에서 감지하여 입력한 사항과 결합된 다음, 의미 있는 출력으로 변환됩니다. 이후 다른 출력 기술을 통해 피드백을 제공하거나 해당 차량 또는 다른 차량이 여러 조치를 취하도록 지시하는데 사용됩니다.” AI 설계의 궁극적인 목표는 사용자 경험을 향상시키기 위해 실행 가능한 피드백을 얻는 한편 사용자에게 제어감을 주는 것입니다. 목표에 도달하기 위해 디자이너는 사용자가 제품에서 원하는 것이 무엇인지, 그리고 제품이 그 욕구를 얼마나 잘 충족시킬 수 있는지 식별해야 합니다.

의미 있고 가치 있는 인간 중심 상용 AI 솔루션을 만든다는 것은 관련성을 부여하는 것을 의미하며, 이는 설계 과정의 맨 처음부터 시작됩니다. 이 과정의 작동 방식을 이해하는 것은 고객 만족도 조사 이상의 것을 의미합니다. 이것은 고객을 매우 실제적인 방식으로 설계 과정에 참여시키는 것입니다.

시바난다는 “우리는 고객의 상황에 따라 고객의 말을 경청하고 실제로 고객이 스스로 원하는 바를 이해하도록 돕고 때로는 고객의 암묵적 욕구를 이해하려는 노력이 중요하다고 믿습니다.” 라고 말합니다.“이러한 고객의 의견은 우리가 만드는 제품과 서비스를 적합하게 만들 것입니다. 제품이 고객에 적합하게 되면 수요가 높아지므로 회사에 매우 좋습니다. 그리고 그 경험 구축에 필요한 정보를 고객이 제공했기 때문에 스스로 이를 채택하게 될 것입니다. 고객은 실제로 제품을 계속해서 사용할 것이고, 재방문할 것이고 가능한 한 많이 참여할 것입니다.”

영향 및 위험 평가에 대한 분석은 연구의 막바지에 팀에 맡기는 대신 처음부터 제품 개발의 일부가 되어야 합니다. 개발자는 의도하지 않은 잠재적인 결론과 결과를 평가해야 합니다. 설계 과정 초기에 이루어지는 이러한 심도 깊은 반영은 회사가 전반적으로 이러한 사항에 주의깊은 관심을 보이고 있음을 소비자에게 보여주게되며, 설계 과정 그 자체가 광고 수단으로 사용되어 소비자의 신뢰를 얻을 수 있게됩니다.

세계적으로 유명한 로봇 공학자 로드니 브룩스(Rodney Brooks)는 기술에서 인간 중심 설계의 중요성을 이해하고 있습니다. 룸바(Roomba) 진공 청소기를 발명한 그는 거의 40년 동안 인간-기계 협업 및 공동 생활을 위한 AI를 개발해 왔습니다. “무엇이 되었든 정말 성공하려면 우리 인간이 중심이 되어야 합니다. 우리는 인간을 위한 것, 사용하기 쉬운 것을 원합니다. 우리의 한계, 즉 인간의 한계를 이해하는 시스템을 만들어야 합니다. 인간은 AI 시스템이 할 수 있는 일에 대한 일종의 약속으로서 AI 시스템을 받아들입니다. 그리고 AI 시스템은 그 약속을 더 잘 지키지요. 그러나 단지 인간 중심의 AI만으로는 안 됩니다. 모든 것이 직관적으로 정확하게 이해될 수 있도록 우리의 의식 속에 들어와야 합니다. 그렇지 않으면 누구에게도 흥미를 주거나 유용한 제품이 될 수 없습니다.”

역사적으로 소비자는 기술과 상호작용하는 특정 방법을 배웠습니다. 최초의 컴퓨터 펀치 카드에서부터 마우스가 스마트폰 터치 스크린으로 진화하는 것에 이르기까지 사람들이 기술과 상호작용할 때는 다른 사람들과의 상호작용과는 다른 방식을 씁니다. 그럼에도 불구하고 소비자들은 더 “자연스럽다”고 느끼는 AI 제품에 끌립니다.

매킨토시는 고품질의 장인 정신과 전문적인 색상 팔레트를 사용하여 뛰어난 촉각을 갖춘 제품을 설계하는 것으로 명성을 얻었습니다. 제품이 더욱 인간 중심적인 설계로 이동한다는 것은 사용자 인터페이스를 촉각에서 음성 활성화로 변경하는 것을 의미합니다. 매킨토시의 설계 과제는 음성 활성화를 개인화하여 소비자가 제품을 사용할 때 정상적 말하기 패턴을 조정할 필요가 없도록 하는 것입니다. 매킨토시 그룹의 공동 CEO인 제프 포지(Jeff Poggi)는 다음과 같이 설명합니다. “지금까지 매킨토시의 소비자 설계 철학은 노브 버튼의 촉각이었습니다. 이것은 모양, 산업 설계, 색상 팔레트 등과 함께 핵심 부분으로서 일종의 장인 정신의 품질 및 물리적 방식에 관한 것이었습니다. 그것은 우리에게 정말 중요하지만 인간 중심의 AI 세계로 나아가면서 그 사용자 인터페이스는 어떻게 변할까요? 그리고 제 생각에는 실제로 촉각의 세계에서 음성의 세계로 바뀌고 있는데 현재는 음성의 초기 단계라고 생각합니다. 이것은 [오늘날] 대부분의 사람들에게 불편합니다. 특히 오늘 제가 말하는 것과 같이 정상적인 인간처럼 말할 수 없는 경우, 컴퓨터 데이터 입력에 더 가깝도록 말하는 패턴을 조정해야 하는 경우에는 더욱 그렇습니다. AI 제품과 가장 “자연스러운” 최선의 의사소통을 할 수 있는 인터페이스는 무엇입니까? 화면을 터치하는 것이 좋을까요, 아니면 노브를 돌리는 것이 좋을까요? 아바타나 로봇을 사용해야 할까요? 가상 현실 또는 AI와 의식 공유? 어떤 결정을 내리든 소비자에게 “자연스러운” 경험을 제공하는 것은 성공적인 AI 설계의 핵심 요소입니다.

단지 최종 제품에 관한 것이 아닙니다. 인간 중심의 AI를 설계한다는 것은 사용할 사람들을 위해 전체 생태계를 생성하는 것을 의미합니다. 이러한 생태계는 구상하는 순간부터 즉 개발자에서부터 문제 발생 시 이를 처리하는 애프터 케어팀에 이르기까지 AI를 구축하고 유지 관리하는 전체 인프라를 포괄합니다.
AI 시스템은 끊임없이 변화하는 우선순위, 복잡성 및 인간 존재의 다양성을 고려하여 학습하고 적응하도록 설계해야 합니다. 설계팀은 미래의 잠재적 통합을 염두에 두고 다양한 맥락에서 자연스럽게 느껴지는 인터페이스를 만들기 위해 노력해야 합니다.

저명한 디자인 기업 IDEO의 이사인 보 팽(Bo Peng)도 이에 동의합니다. “현실에서는 도구를 반복 처리하고 다양한 잠재 사용자에게 제공하여 가능한 많은 사용 사례를 생각할 수 있도록 해야 합니다. 따라서 이것은 본질적으로 반복적으로 해결해야 할 문제입니다. 그리고 단순히 이론적인 답만으로 풀 수 있는 문제가 아닙니다.”

AI에 대한 인간 중심 설계 접근 방식이 올바로 실현된다면, 소비자와 더 깊이 공감하는 효율적인 제품의 생성을 주도하고, 편안함, 참여 및 신뢰 수준을 높여줄 것입니다. 최종 사용자를 만족시켜 기술의 성장을 촉진할 것임은 말할 나위도 없습니다.