요즘 GPT를 비롯한 LLM과의 대화를 많이 하는데, 스스로의 생각을 정리하고 결정을 내리는 데 큰 도움이 된다고 느낍니다.
그러나 그 편리함 속에서, 한 가지 질문이 따라왔습니다.
‘나는 여전히 판단하고 있는 주체인가, 아니면 AI가 제시한 선택지를 받아들이며 스스로 판단했다고 착각하고 있는 걸까.’
1. AI는 이미 ‘결정을 돕는 도구’를 넘어섰다
선택지를 추천하는 기술은 오래전부터 우리 일상 속에 있었습니다.
가령 엔터테인먼트 영역에서는 취향에 맞는 콘텐츠를, 커머스에서는 비슷한 사람들이 많이 고른 상품을 보여주는 방식이었습니다.
하지만 AI는 단순히 선택지를 노출하는 존재를 넘어 결정 과정에 직접 개입하는 존재가 되어가고 있습니다.
사람들은 이제 크고 작은 결정을 AI에게 묻고, 그 답변을 참고해 결정을 내립니다.
그래서 요즘은 이런 말도 종종 들립니다. “AI가 이게 합리적이라고 해서 이렇게 결정했어.”
이전의 알고리즘,시스템이 단순히 ‘선호할 만한 선택지’를 보여주는 역할이었다면, 지금의 AI는 ‘최종 선택에 관여하는 존재’가 된 것처럼 보입니다.
UX 디자이너로서, 동료들과 논의할때 종종 이렇게 말하곤 합니다.
- 사용자의 편리함을 위해 자동 선택을 하는 시스템을 제공하자
- 인지 부하를 줄이기 위해 요약된 선택지를 제공하자
선택지가 많을수록 사용자의 의사결정이 느려진다는 사실은 잘 알려져 있고,
그간 UX디자인은 선택의 과정을 줄이는 경험을 설계함으로서 좋은 사용자 경험을 만들어왔습니다.
사실 기존의 프로덕트에서는 이로 인한 부작용이 심각한 문제가 되진 않았습니다.
사용자는 시스템이 대략 어떻게 작동하는지 어렴풋이 알고 있었고, 그 시스템은 인격적인 존재라기보다 ‘도구’에 가까웠기 때문입니다.
하지만 대화형 AI에서는 이야기가 달라집니다. AI는 대화 속에서 인격적인 존재처럼 느껴지고, 그럴 듯하게 개인화된 답변을 자연스럽게 내놓습니다. 이는 사용자에게 있어 ‘도구’라는 감각을 약하게 만들고 선택의 주체성을 약화시키기 쉽습니다.
2. 주체적 선택권을 고려한 경험설계의 필요성
“사용자를 위해 좋은 선택지를, 더 인지가 쉬운 방식으로 보여주자” 이 사용성 원칙 자체는 여전히 유효합니다.
다만 사용자의 주체적 선택권을 고려한 설계가 이전보다 더 중요해진 시점입니다.
어떤 사용자는 현재 시점의 AI가 읽어내지 못하는 맥락과, 자신이 제공하지 않은 암묵지적 지식이(경험, 노하우 등 개인에게 체화되어 있는 주관적인 지식) 있다는 사실조차 인식하지 못한 채 AI의 판단을 자신의 결정처럼 받아들일 수 있기 때문입니다.
예를 들어 한 사용자가 LLM 에게 3박 4일 일본 여행 일정을 짜달라고 요청합니다. 곧 LLM은 동선도 효율적이고 설명도 설득력 있는 일정 하나를 제시하죠. 하지만 사용자는 아래 내용을 곧바로 알 수 없습니다.
- 이 일정이 어떤 기준으로 ‘좋은지’
- 어떤 선택지가 제외됐는지
- 자신의 여행 스타일과 체력적 요인들을 AI가 충분히 이해했는지
3. 그래서 설계자의 역할은 무엇일까
앞으로 AI 설계는 사용자 선택의 주체성도 함께 설계해야 한다고 생각합니다.
이를 위해 설계자는 질문해야 합니다.
- 사용자가 다시 생각하거나, 다른 선택을 떠올릴 여지는 남아 있는가
- AI가 생성한 선택지가 어떤 결과를 가져올지 사용자가 인지할 수 있는가
- AI가 생성한 정보의 기준이 사용자에게 인식되고 있는가
기술의 발전에 따른 인간 선택의 주체성은 갑자기 등장한 문제가 아닙니다.
다만 최근 LLM의 발전은 판단을 너무 쉽게 맡길 수 있는 환경을 만들었고, 앞으로 기술의 발전을 통해 그 속도가 계속 가속화 될 것으로 보입니다.
그래서 지금은 ‘사용자의 선택권’에 대한 설계자의 책임감이 더 또렷해져야 하는 시점입니다.