posted by: Clara Fontaine Design & Interface Critic

자동화는 오랫동안 단순한 대체 이야기로 전달되어 왔다. 기계가 반복적인 동작을 대신하고, 인간은 아이디어, 감각, 미묘한 차이를 담당한다는 것이다. 이 약속은 마치 각 역할이 마침내 자리를 찾은 사무실처럼 우아해 보였다. 그러나 생성형 AI는 경계선을 더 민감한 영역으로 옮겼다. AI는 글을 쓰고 요약하며 상상할 뿐만 아니라, 창의성이 덜 기계화될 것이라 여겨졌던 영역에도 침투하고 있다.[1][2][5][8] 따라서 일의 중심축은 단지 콘텐츠 생산으로 이동하는 것이 아니라, 그 내용물이 손해를 초래할 때 누가 책임지는지가 문제로 부각되고 있다.[4][6][7]

최근 고용 분석들은 AI의 영향이 직업별이 아니라 업무 단위별로 평가되어야 함을 보여준다.[5][8][11] 한 직위에는 여러 동작이 포함되며, 생성형 모델은 우선 표준화하기 쉬운 부분, 즉 초안 작성, 교정, 요약, 1차 조사, 정보 분류, 단순 계획에서 도입된다.[5][8][11] 경제 기관이 인용하는 연구들은 교육, IT, 금융, 서비스와 같이 지식 기반 분야가 기존 자동화 문헌에서 예견한 변화를 넘어선 광범위한 변화를 경험하고 있음을 보여준다.[5][8][11] 다시 말해, AI는 단지 '손'만 대체하는 것이 아니라, 의사결정 초안 자체에 개입하고 있다.

이 돌파구는 미묘하지만 결정적인 결과를 낳는다. 인간 창작물이 감수성이나 독창성에 의해 보호된다고 여겨졌던 분야의 특성이 줄어든 것이다. 창의적 도구들은 창작을 없애지 않았으며, 대신 더 유동적이고 빠르며 때로는 더 교체 가능하게 만들었다.[8][11] 텍스트, 이미지, 발표자료, 초고가 더 빠르게 돌아다니고, 바로 이 유동성이 새로운 희소성을 드러낸다.[1][2][8][11] 모델이 제안하고 분류하며 재구성할 수 있는 환경에서 부족한 것은 영감이 아니라 최종 책임자의 이름이다.[4][6][7] AI 인터페이스의 아름다움은 종종 그 은밀함에 있지만, 그 문제는 서명해야 할 때 드러난다.

법률은 이 점에서 훨씬 덜 시적이다. 법률 자료와 실무 요약들은 하나의 단순한 생각으로 모인다. 기업이 AI를 도구로 사용할 때, 사용 책임은 기계가 아닌 사용자에게 있다.[4][6][7] 부실한 결과, 내용 오류, 분쟁 결정과 관련된 위험은 자동화라는 구름 속에 사라지지 않는다.[4][6][7] 컨설팅사 및 거버넌스 가이드들은 조직이 명확한 책임 사슬을 지정하고, 중요한 결정에 인간의 개입을 보장하며, 팀을 해당 시스템의 한계에 대해 교육해야 한다고 상기시킨다.[4][6][7][10] 용어는 다르지만 기본 구조는 같다. 즉, AI는 도울 수는 있지만 쉽게 무죄로 만들 수는 없다.

여기서 이 전환의 가장 아이러니한 가설이 나온다. 만약 모델이 더 많은 창의적 생산을 담당한다면, 일부 기업은 인간을 덜 고귀하지만 더 전략적인 역할에 배치할 수 있다. 즉, 위험을 흡수하고 책임을 떠맡으며 고객, 규제기관, 법정을 대면하는 최후의 방패 역할이다.[4][6][7] 인간은 단지 상상하는 존재가 아니라 응답하는 존재가 될 것이다.[4][6][7] 이 생각은 예언이 아니며, 기존 틀 안에서 관찰 가능한 가능성으로 다뤄져야 하는 것이지 확실한 사실은 아니다.[4][6][7] 그러나 이는 창의성은 분산되고 책임은 오히려 중심화되는 분위기를 잘 설명한다.

이 시나리오는 적어도 표면적으로 경제적으로 합리적이다. 회사는 생성형 시스템에 일부 생산을 위임하면서도, 설명하고 정당화하며 필요한 경우 실수에 대한 대가를 치를 수 있는 소수 의사결정자를 유지할 수 있다.[4][6][7][9] 인사와 법률 전문가들이 발행한 거버넌스 가이드들은 누가 승인하고 누가 감독하며 누가 책임지는지를 명확히 해야 한다고 강조한다.[4][6][7][10] 실제로 조직은 시간 절약뿐 아니라, 실수가 발생했을 때 인간적인 책임 소재를 유지하려 한다. 이는 책임 문제이자 이미지 문제이기도 하다. 아무리 유연한 인터페이스도 책임 추궁에 적합하지는 않기 때문이다.

여전히 가려서는 안 될 불확실한 영역이 존재한다. 기업들이 보조 창작과 인간 책임의 분리를 어디까지 진행할지, 그리고 노동시장이 감독 및 조정 능력을 갖춘 인재를 지속적으로 보상할지는 아직 알 수 없다.[5][6][7][11] 업무 연구는 직업의 완전한 소멸이 아닌 부분적 변화를 시사한다.[5][8][11] 규제 차이도 중요하다. 유럽은 제품, 소프트웨어, AI 관련 의무 사항에서 다른 지역보다 명확히 진전되어 있어, 실제 책임 분배에 영향을 미칠 가능성이 있다.[3][4][10] 같은 도구라도 법률 환경에 따라 결과가 달라질 수 있다는 점을 주목해야 한다.

지나치게 극적인 해석도 경계해야 한다. AI가 모든 창작자를 무자비한 실행자로, 모든 관리자를 법적 방패로 자동 변환시키지는 않는다. 더 미묘한 변화는 역할 구성의 변화이다.[6][7][11] 하나의 직업은 창의적 측면을 유지하면서도 더 많은 검증, 추적 및 최종 결정을 포함할 수 있다. 반대로, 일부 역할은 실질보다 더 고귀하게 보일 수 있는데, 이는 주로 인증, 검증, 혹은 책임을 떠맡는 역할이기 때문이다.[4][6][7] 결정적 질문은 기계가 무엇을 생성하느냐가 아니라 조직이 어떤 인간 책임을 유지하느냐이다.

중기적으로 이 변화를 노동 현상뿐 아니라 거버넌스 현상으로 주목할 필요가 있다. 미래 기록은 최고의 모델뿐 아니라 누가 결정하고 통제하며 책임지는지를 명확히 밝힌 조직을 기억할 것이다.[4][6][7][9] AI가 창의적 업무를 계속 확장한다면 가장 희귀한 가치는 매우 오래된 역할, 즉 결정에 자신의 이름을 올리는 것이 될 수 있다.[4][6][7][11] 이 관점은 대규모 대체보다 덜 극적이지만, 기술이 실제 생활에 자리 잡는 방식에 더 충실할 수 있다. 기술은 지나가지만, 책임 소재는 인간 중심 틀의 핵심으로 남는다.[4][6][7]