인간의 가능성을 확장하는 인공지능을 꿈꾸다

인터뷰 | 조요한 교수(서울대학교 데이터사이언스대학원)

코딩을 도와주고, 일정을 관리하고, 친구처럼 대화를 나누는 인공지능(AI)은 이제 우리 일상에 깊숙이 스며들었다. ‘인공지능을 어떻게 더 똑똑하게 만들 수 있을까?’ 서울대학교 조요한 교수는 이보다 더 근본적인 질문을 던진다. ‘AI는 과연 인간의 무엇을 도와야 하는가?’ 조 교수는 AI가 단순히 정답을 알려주고 일을 대신하는 기술이 아니라 인간이 스스로 사고하고 성장할 수 있도록 곁에서 돕는 ‘조력자’가 되어야 한다고 강조한다. 대화형 시스템과 자연어처리 기술을 넘어 인간의 동기와 가치에 반응하는 AI. 조요한 교수는 ‘사람을 위한 AI’라는 나침반 위에서 기술이 나아가야 할 방향을 다시 묻고 있다.

인간의 주체성을 높이는 ‘Agents for Human Agency’

조요한 교수는 서울대학교 데이터사이언스대학원에서 인공지능(AI), 특히 자연어처리(Natural Language Processing, NLP)와 대화형 시스템을 연구하고 있다. 학부와 석사 과정을 KAIST 전산학부에서 마친 조 교수는 한국전자통신연구원(ETRI)에서 근무하다 미국 카네기멜론대학교(Carnegie Mellon University)에서 언어정보기술 석사와 박사 학위를 취득했다. 졸업 후 아마존에서 대화형 인공지능 알렉사(Alexa) 팀에 합류해 산업 현장에서의 경험을 쌓았고, 2년 전 서울대학교로 자리를 옮겼다.

조 교수의 연구 키워드는 ‘인간 주체성(Human Agency)’이다. 조 교수는 “AI가 사용자의 편의를 높여주는 데 그치는 것이 아니라, 인간이 스스로 판단하고 목표를 설정해나갈 수 있도록 동기를 부여하고 주체적인 행동을 유도하는 것이 더 중요하다”고 말한다.

대표적인 예시가 교육 튜터 AI다. 조 교수는 기존 시스템이 자료를 쉽게 정리해주는 방식이었다면, 학습자가 스스로 동기부여를 하고 학습을 할 수 있는 능력 자체를 키워주는 것을 목표로 삼는 AI가 진정한 교육 도우미라고 강조한다. 이처럼 사용자를 수동적으로 만드는 AI에서 벗어나 인간의 주체성과 자기조절 능력을 키워주는 AI 개발이 조 교수의 주요 연구 목표다.

‘추론하는 에이전트’와 ‘설득하는 대화자’

조 교수의 연구실은 ‘에이전트의 지능화’와 ‘사용자의 주체성 강화’라는 두 축에서 연구를 전개하고 있다. 먼저 AI가 API(Application Programming Interface) 등 외부의 도구나 데이터베이스와 상호작용하며 정보를 활용할 수 있도록 하는 ‘도구 증강 에이전트(tool-augmented agent)’ 기술을 개발 중이다. 언어모델의 내부 지식 및 추론 과정이 발현되는 메커니즘을 분석하고 제어하는 기계적 해석(mechanistic  interpretability)’ 기술 연구도 병행하고 있다.

또한, 인간의 가치관을 이해하고 이를 기반으로 설득력을 높이는 대화 전략 연구도 활발히 수행 중이다. 예를 들어, 헬스 코치 AI가 운동을 권유할 때, 건강을 중시하는 사용자와 외모를 중시하는 사용자에게는 서로 다른 설득 방식이 필요하다는 것이다. 조 교수는 “사용자의 가치관에 부합하는 설득 전략이 AI의 궁극적 설득력”이라며, 이를 구현하기 위한 언어모델의 가치 정렬(value alignment)과 가치 기반 대화 시스템 연구를 이어 가고 있다.

조 교수는 AI가 인간의 행동과 생각을 변화시키는 능력을 지니는 것이 중요하다고 강조하며, 이를 위해 사회과학과의 협업이 필수적이라고 본다. 실제로 조교수의 연구실에는 수학, 컴퓨터공학, 산업공학은 물론 언어학, 심리학, 교육학 등 전공이 각기 다른 학생들이 모여 있다. 조 교수는 “학부 시절 배운 전공이 서로 다른 만큼 다양한 관점과 생각이 연구실 안에서 자유롭게 오갈 수 있다”며, “학생들이 각자의 전문성을 살려 문제를 새롭게 정의하고, 다각도로 접근해 나갈 수 있는 원동력이 된다”고 말한다. 더불어 다학적인 연구주제 들은 심리학과, 교육학과, 문헌정보학과, 의예과 등 다양한 학과 교수들과 공동 연구를 진행 중이다.

인간의 사고를 읽고 바꾸는 언어의 힘

조 교수가 언어에 집중하게 된 계기는 석사 시절 감성 분석 연구에서 비롯됐다. 긍정적 혹은 부정적인 리뷰가 어떤 사고 구조를 통해 생성되는지 확률 모델로 분석하는 감성 분석(sentiment analysis) 연구였다. 조 교수는 “언어는 인간의 사고와 감정을 표현할 뿐 아니라, 오히려 그 사고와 감정을 변화시킬 수 있는 힘이 있다”며, 자연어처리를 통해 인간 내면을 이해하고 변화시킬 수 있다는 가능성에 매료됐다고 회고한다.

이후 박사 과정 동안 설득과 논증에 특화된 언어 기술을 연구했고, 아마존에서 대화형 시스템의 기술적 구조를 실무적으로 익히며 연구의 외연을 넓혔다. 이러한 경험은 그가 지금의 ‘Agents for Human Agency’라는 연구철학에 이르게 한 중요한 여정이었다.

연구자 AI를 향한 KISTI와의 협력

서울대 부임 후 조 교수가 가장 처음 마주한 문제는 연구에 필요한 그래픽처리장치(Graphic Processing Unit, GPU) 확보였다. 과제 예산이 부족한 상황에서 GPU 장비를 구매하기가 어려웠고, 학생 수는 빠르게 늘어났다. 조 교수는 이 과정에서 국가 차원의 연구 인프라 확충에 있어서 실질적인 개선이 필요함을 절실히 체감했다. 특히 GPU 구매 과정에서의 행정 절차는 여전히 큰 장애물이다. “GPU는 AI 연구의 기본 인프라인데 구매를 하려면 복잡한 심의 절차와 3~4개월의 시간이 소요된다”며, “빠르게 변화하는 AI 연구에서는 이 지연이 치명적이다”라고 말한다. 조 교수는 GPU 심의 절차의 축소와 함께 KISTI처럼 국가가 연구자에게 직접 제공하는 GPU 자원 확대가 필요하다고 강조했다.

특히, GPU 부족 현상이 극심해진 논문 마감 시기, KISTI의 고성능 클라우드 컴퓨팅 자원은 연구실의 구원자와 같았다. 조 교수는 “여러 장의 GPU를 병렬로 묶어 언어모델을 강화학습하는 데 KISTI GPU 자원이 아주 유용하게 사용되고 있다”며, “연구실 내 GPU로는 한 명이 독점 사용하기 어려운 환경인데, 클라우드를 통해 자유롭게 실험을 진행할 수 있게 되었다”고 전했다.

현재 조 교수는 KISTI와 함께 ‘연구자 AI’ 개발 과제를 협업하고 있다. 이 AI는 문헌 탐색, 가설 수립, 실험 설계, 결과 분석 등 연구자의 전 과정을 보조하고 더 나아가 연구를 자율 수행할 수 있도록 설계된다. 조 교수 연구실은 에이전트가 KISTI의 ScienceON API 등 다양한 연구 도구에 접근하고, 사용자와의 자연스러운 대화를 통해 연구 요청을 처리하는 시스템을 개발하고 있다.

조 교수는 향후 KISTI와의 협력을 통해 더욱 고도화된 에이전트를 개발을 해보고 싶다고 말한다. 특히, KISTI가 공공데이터를 표준화해 API를 통해 일반 사용자들에게 제공하는데 이러한 API들은 단지 사람들에게 뿐만 아니라 AI 에이전트에게도 큰 도움이 될 것으로 내다봤다. 오늘날 언어모델 기술이 많이 발전했지만 결국 에이전트로서의 유용성을 결정하는 중요한 요인은 에이전트가 활용할 수 있는 정보의 양과 질이다.

공공데이터 중에는 시간이 지남에 따라 자연스럽게 계속 변하는 정보들이 많은데, 정보가 바뀔 때마다 언어모델을 학습할 수 없기 때문에 에이전트가 API를 이용해 실시간 정보에 접근하여 활용하는 것이 매우 중요하다는 설명이다. 조 교수는 “향후 협업을 통해 KISTI가 보유한 공공데이터 API를 에이전트가 활용할 수 있다면, 언어모델의 실시간 정보 처리 능력이 대폭 향상될 것”이라며 기대를 표했다.

조 교수의 다음 연구 목표는 시각, 청각 등 다양한 감각 정보까지 활용할 수 있는 다중모드(Multimodal) 에이전트 개발이다. 단순히 언어 기반의 대화에서 벗어나 인간처럼 복합적인 자극을 받아들이고 반응할 수 있는 AI를 만드는 것이 목표다. 또한, 교육, 심리상담, 의료 등 특정 도메인에서 실제 사용될 수 있는 AI를 구현하는 실용적 연구도 추진 중이다. 조 교수는 “AI가 인간의 감정과 가치를 존중하면서 조력자가 되는 시대를 만들고 싶다”며, 기술을 통한 인간 중심의 미래를 그리고 있다.

조요한 교수의 연구는 단순한 기술 개발이 아니다. 오히려 기술을 수단 삼아 인간의 주체성과 자율성, 성장 가능성을 확장하는 데 초점을 맞춘다. AI가 인간의 ‘편의’를 넘어 인간의 ‘가능성’을 이끌어내는 동반자로 거듭나야 한다는 조 교수의 말처럼 그가 그리고 있는 미래의 AI는 인간을 대체하는 존재가 아니라 인간을 인간답게 만드는 기술이다.