AI가 잘할수록, 내가 원하는 것이 중요해졌다

AI가 더 많은 일을 대신하게 된 뒤, 나는 오히려 내가 무엇을 원하는지 더 자주 생각하게 됐다. 이 글은 AI가 인간 대신 선택하게 하기보다, 인간의 선택을 더 잘 탐구하고 실현하도록 돕는 관계를 연구하려는 이유에 관한 기록이다.

결과물이 생긴 뒤에도 남은 질문

AI는 내가 생각한 것보다 훨씬 많은 일을 할 수 있었다.

자료를 찾고, 선택지를 비교하고, 계획을 세우고, 글과 이미지와 코드 같은 결과물을 만드는 일까지 맡길 수 있었다. 처음에는 AI가 더 많은 일을 대신해주면 내가 고민해야 할 일도 줄어들 거라고 생각했다.

실제로 결과물을 만드는 속도는 빨라졌다. 이전에는 생각에만 머물렀을 일을 직접 보고 수정할 수 있게 됐다. 혼자서는 시도하지 못했을 만큼 많은 방향을 짧은 시간 안에 살펴볼 수도 있었다.

그런데 일을 맡길수록 새로운 질문이 생겼다.

나는 무엇을 중요하게 생각하지?
어디까지 맡기고, 무엇은 내가 결정해야 하지?
AI가 잘 만든 결과와 내가 정말 원한 결과는 같은 걸까?

좋은 결과물이 나왔는데도 어딘가 마음에 들지 않을 때가 있었다. 최근 TYPE 사이트를 AI와 함께 만들 때도 그랬다. AI가 만든 첫 화면은 겉보기에 잘 정돈되어 있었다. 그런데 보자마자 “좀 촌스럽다”는 생각이 들었다. 무엇이 마음에 들지 않는지 말하다 보니, 그제야 내가 원하는 것이 장식보다 여백과 글의 위계로 정리된 화면이라는 걸 알게 됐다.

반대로 처음 생각했던 방향을 바꾸고 싶어질 때도 있었다.

문제는 AI가 일을 잘하고 못하는 것만이 아니었다. 내가 무엇을 원했는지, 그 판단이 지금도 유효한지, 어떤 결정은 AI가 이어서 실행해도 되고 어떤 결정은 다시 나에게 돌아와야 하는지가 함께 중요했다.

사람은 선택하기 전에 자신을 모두 알지 못한다

우리는 흔히 사람이 원하는 것을 먼저 정하고, 그다음 여러 선택지 중 하나를 고른다고 생각한다.

하지만 실제 경험은 조금 달랐다.

처음부터 내가 원하는 것을 정확히 알고 선택할 수 있는 것은 아니었다. 선택해보고, 결과를 경험하고, 마음에 들거나 들지 않는 이유를 돌아보면서 내가 무엇을 중요하게 생각하는지 조금씩 알게 됐다.

선택은 이미 알고 있는 나를 표현하는 일이기도 하지만, 아직 몰랐던 나를 발견하는 과정이기도 했다.

이 관점에서 좋은 선택은 단순히 가장 효율적이거나 객관적으로 우수한 답을 고르는 일이 아니다. 자신이 무엇을 중요하게 여기는지 살펴보고, 하나의 방향을 자신의 것으로 받아들이며, 경험한 뒤에는 다시 바꿀 수 있는 과정에 가깝다.

그래서 인간의 역할을 마지막 승인 버튼을 누르는 것으로만 남길 수는 없다.

사람은 선택과 경험을 거치며 자기 이해를 넓히고, 그 과정에서 자신의 목적과 가치를 형성하고 검토하고 수정한다. 무엇을 중요하게 여기고 어떤 방향을 자신의 것으로 채택할지는 이 과정 안에 남아 있어야 한다.

AI에게 원하는 것은 조언만이 아니다

그렇다고 모든 탐색과 실행을 인간이 직접 맡아야 한다는 뜻은 아니다.

AI는 인간이 살펴볼 수 있는 범위보다 더 넓게 자료를 찾고, 여러 가능성을 비교하고, 계획을 세울 수 있다. 인간이 정한 목적과 기준 안에서 충분히 자율적으로 일할 때 AI의 능력은 더 크게 활용될 수 있다.

AI의 역할은 선택지를 보여주는 데서 끝나지 않는다.

인간이 하나의 방향을 채택했다면, AI는 그 결정을 구체적인 계획과 높은 완성도의 결과물로 이어갈 수 있어야 한다. 글을 쓰기로 했다면 실제 글을 완성하고, 서비스를 만들기로 했다면 필요한 구조와 화면과 기능을 구현하는 것처럼 생각을 현실의 결과로 만들어야 한다.

선택 전에는 탐구를 돕고, 선택 후에는 결정을 실현하는 것이다.

다만 결과물이 좋다는 사실만으로 모든 과정이 적절했다고 볼 수는 없다. 인간이 허용하지 않은 자료나 권한을 사용했거나, 이미 바뀐 판단을 계속 적용했다면 결과의 완성도와 별개로 문제가 남는다.

반대로 정해진 절차를 지켰다는 이유만으로 낮은 품질의 결과물을 성공이라고 할 수도 없다.

내가 원하는 것은 AI의 자율성과 결과 품질 중 하나를 포기하는 관계가 아니다. 인간이 정한 방향 안에서는 AI가 충분히 탐구하고 실행하되, 새로운 인간 판단이 필요한 순간은 구분해서 돌려주는 관계다.

그 사이에 시스템이 필요하다

인간이 방향을 정하고 AI가 실행한다는 역할 구분만으로는 이 관계가 계속 유지되지 않는다.

처음 정한 목적이 바뀔 수 있고, 서로 다른 기준이 충돌할 수 있다. 이전 판단이 현재 상황에는 더 이상 맞지 않을 수도 있다. AI가 하려는 행동이 인간이 맡긴 권한을 넘어서는 경우도 생긴다.

그래서 인간과 AI 사이에는 둘의 관계를 조율하는 시스템이 필요하다.

이 시스템은 인간 대신 옳은 목적을 정하는 제3의 판단자가 아니다. 인간이 내린 판단을 기억하되, 그 판단이 지금도 유효한지 살피고, 새로운 판단이 필요할 때는 결정을 인간에게 돌려주는 매개 계층에 가깝다.

시스템의 역할은 AI를 계속 멈추게 하거나, 반대로 한 번의 승인으로 모든 일을 맡기는 것이 아니다.

인간이 이미 결정한 범위에서는 AI가 반복해서 묻지 않고 충분히 일하게 하면서도, 목적과 가치에 관한 새로운 판단이 필요한 순간에는 인간이 다시 선택할 수 있게 하는 것이다.

오래 연구하고 싶은 질문

AI가 더 많은 일을 자율적으로 수행하는 시대에도, 사람은 자신이 무엇을 중요하게 여기는지 발견하고 방향을 선택하며, 필요할 때 그 선택을 다시 바꿀 수 있을까.

AI는 인간의 결정을 대신하지 않으면서 그 선택을 깊이 탐구하고 현실로 실현할 수 있을까. 그리고 그 경험은 다시 사람이 자신을 이해하고 다음 선택을 하는 과정으로 이어질 수 있을까.

내가 생각하는 답의 방향은 있다. 인간은 자신의 목적과 가치를 더 깊이 이해하고 가치 있는 결정을 내릴 수 있도록, 선택과 경험을 통해 계속 확장해가야 한다. AI는 그 선택을 위한 탐구와 채택된 결정의 실현을 맡고, 시스템은 AI의 자율성이 인간의 자기 확장과 주체성을 중심으로 움직이도록 해야 한다.

지금은 이 방향을 하나의 결론으로 선언하기보다, 검증할 수 있는 문제로 하나씩 좁혀가며 연구하고 있다.

AI의 능력이 커질수록 인간의 주체성을 어떻게 지킬 것인가.
아마 내가 오래 연구하고 싶은 질문은 이것이다.