생성형AI의 발전이 빠르게 이루어지면서, 일자리 위협이 현실로 다가오고 있습니다. AI전문가 조코딩은 인터뷰에서 ‘AI가 인간의 분야를 하나 하나 점령해 나갈 것’이라고 밝혔고, 국제통화기금(IMF)는 2024년 1월 14일 ‘인공지능과 일의 미래’보고서에서 AI가 전세계적으로 사람의 일자리의 40%에 영향을 미칠 것으로 내다봤습니다. 이외에도 수많은 전문가와 기관은, 구체적 수치에는 차이가 있지만 AI가 인간의 일자리를 뺏을 것이라는 데에 동의하죠. 사람들의 기술 실업이 대규모고 일어날 것을 막기 위해 장기적으로 기본소득의 도입을 고려할 수 있겠죠. 하지만 기본소득은 정책 특성상 추가적인 연구와 사회적 합의가 필요한, 반대하는 사람이 많은 쟁점적인 제도로 도입이 쉽지 않습니다. 따라서, 저는 AI로 인한 일자리 문제에 대응할 현실적인 방법으로 ‘주 4일제’, 혹은 더 나아가면 빌 게이츠의 발언처럼 ‘주3일제’등 법정 노동 시간의 단축을 제안합니다. AI는 ‘일자리’를 빼앗는 게 아닌, ‘일’을 더 해주는 도구다. AI와 일자리에 대해 이야기할 때, 우리는 자연스럽게 ‘AI가 일을 많이 해준다 → 인간의 일자리를 뺏는다’고 생각합니다. 그리고 이렇게 생각이 드는 이유는, AI가 기업이 해야 할 일을 줄여주면 남은 일이 줄어들어 인간이 해야 할 일이 줄어들고, 인간이 해야 할 일이 줄어들면 기업에 필요한 인간이 줄어든다고 생각하기 때문입니다. 이는 원래의 근로 환경에서는 맞는 말입니다. AI로 인해 해야 할 일이 줄어들었는데, 사람을 전부 그대로 고용하는 기업은 비합리적이죠. 하지만 기업 입장에서도 사람을 해고하는 것은 그렇게 기분 좋은 일은 아닙니다. 무엇보다, 기술 발전으로 인해 사회 전방위에서 해고가 이뤄진다면 노동자들의 저항은 커질 수 밖에 없습니다. 이때 기업 입장에서 근로자들의 고용을 유지할 수 있는 방법이 있습니다. 바로 근로자들의 총 근로 시간을 낮추는 겁니다. 간단한 식으로 예를 들어 보겠습니다. 기업이 목표로 하는 일의 양이 400이라고 가정했을 때, 기존의 경우 아래와 같습니다. 사람 10명 X 주5일 X 8만큼의 일 = 400 와 같은 형태로 기업이 운영됩니다. 여기에서 기입이 목표로 하는 일의 양이 400이고 AI가 80만큼의 일을 대신한다고 가정한 뒤 주5일제에 하는 일의 양이 그대로일 때는 아래와 같습니다. (사람 8명 X 주5일 X 8만큼의 일 = 320) + (AI가 하는 일 80) = 400 즉, 2명 만큼의 실업이 발생합니다. 위 상황에서 실업이 발생하지 않는 방법은 두 가지입니다. 1) AI가 할 수 없는 일이 증가하여, 사람이 할 일이 늘어나면 됩니다. 위에서는 AI가 할 수 없는 일이 80 증가하면 되겠죠. 하지만 AI가 할 수 있는 일이 늘어나는 흐름을 볼 때 일반적으로 발생하기 어려운 상황입니다. 2) 사람이 일하는 날짜나 시간을 줄입니다. 똑같이 식으로 나타내보면 아래와 같습니다. (사람 10명 X 주4일 X 8만큼의 일 = 320) + (AI가 하는 일 80) = 400또는(사람 10명 X 주5일 X 6.4만큼의 일 = 320) + (AI가 하는 일 80) = 400 이렇게 하면, 사람을 해고하지 않아도 됩니다. AI가 하는 일이 늘어난다면, 이에 맞추어 노동 일수를 주3일제로 줄이거나, 날마다 법정노동시간을 줄이면 어느 정도 균형을 맞출 수 있습니다. 다만, 기업 입장에서도 주4일제를 자발적으로 실행하는 것보다 AI를 써서 더 적은 돈을 쓰고 사람을 해고하는 게 더 이익인 경우가 많습니다. 따라서, 주4일제 등의 노동 시간 단축을 정부가 법으로 강제하지 않으면 제대로 실행되기 어렵습니다. 또한, 근로 시간을 단축시키는건 어디까지나 기술실업을 ‘지연’시키는 것이지, 고용을 늘리는 방법은 아닙니다. 기술 발전에 맞추어 진행해야 할, 고용 증가를 위한 정책은 따로 진행되어야 합니다. 마지막으로, 위에 작성한 내용의 경우, AI의 도입 비용에 대한 언급이 전혀 없습니다. 즉, 기업이 AI를 도입함에 따라 드는 비용을 충당하려면 사람의 월급에서 깎거나 근로 시간을 단축하더라도, 인력 감축도 병행해야 하는 상황이 발생할 수 있습니다. 그럼에도 근로 시간 단축을 하지 않는 것보다는 단축하는 것이 기업 입장에서 고용을 유지할 가능성이 더 높다는 사실은 바뀌지 않습니다. 기술 발전과 주4일제에 대한 논의 그렇다면 주4일제를 비롯하여 노동 시간 단축은 만능일까요? 아쉽게도 그렇지는 않습니다. 관련하여, 기존에 기술 발전과 노동 시간에 대해 다룬 연구들을 살펴봤습니다. 과학기술정책연구원(STEPI)의 보고서에 소개된 이규철의 연구에 따르면, 1993년 독일은 생산성은 높이고 그에 따른 비용은 줄이는 산업합리화가 일어났다고 합니다. 기술 발전에 따라 자연스럽게 나타난 이 현상으로 독일의 자동차 회사 폭스바겐은 노동자 감축을 추진했지만 노조의 반대에 부딪쳐 노동자들과 협상을 하게 됐고, 이 과정에서 주4일제를 시행하여 고용은 유지되었지만, 동시에 어느 정도 소득 감소를 추진했다고 합니다. 프랑스의 사례를 살펴볼까요. 임지영 교수의 연구에 따르면, 코로나 팬데믹 이후 프랑스에서도 주4일제 도입을 고려하고 있다고 합니다. 프랑스는 1998년과 2000년 두 차례에 걸쳐 노동시간을 주35시간으로 축소하였고, 이는 임금노동자의 고용 안정을 보장했다고 합니다. 하지만 기업들은 이에 맞춰 불완전 고용조건을 확대 적용하였고, 정부는 이를 해결하지 못하고 눈감아주며 결과적으로 불완전고용률 증가와 실업률 증가가 일어났다고 합니다. 이런 실패의 경험에도 불구하고, 미래의 노동 사회의 대안으로 프랑스에서는 주4일제 도입을 재논의하고 있는 것이죠. 이외에도, 주4일제에 대해 집중적으로 다룬 김은별 연구자와 이승윤 교수의 논문에서는 **주4일제의 도입 배경 중 하나로 ‘실업 및 저성장 문제 해결’**을 꼽았습니다. 대량 실업을 구조적으로 막음과 동시에, 노동자들이 새로운 기술을 교육받을 수 있는 시간을 제공해 준다는 점에서 주4일제 도입의 필요성을 주장하는 학자들이 있다고 합니다. 같은 연구에서는 다양한 사례를 연구한 결과, 주4일제가 기업의 생산성을 낮출 가능성은 적으면서도 노동자의 일과 삶의 균형을 보장한다고 밝히며 주4일제 도입에 대한 긍정적 효과를 주장하기도 했습니다. 앞서 살펴본 주4일제 연구들에서 공통적으로 알 수 있는 부분은, 충분한 논의 없이 주4일제를 도입하면 불완전고용 증가, 임금 감소 등의 부작용이 나타날 수 있다는 겁니다. 하지만 주4.5일제를 도입하는 방안이나, 노동자들이 필요로 하면 주4일제를 도입할 수 있게 하여 기업에 따라 선택적으로 유연하게 근로시간을 조정하게 할 수 있는 방안 등. AI로 인해 발생할 실업에 대비할 수 있는 근로시간 단축 정책은 다양하게 고려할 수 있다는 것도 확인했습니다. 따라서, 주4일제 도입의 한계와 단점을 지적하기보다 어떤 방식의 근로시간 단축 정책을 실행하여 AI발전으로 인해 가속화될 실업 증가를 막을지 논의가 필요한 시점입니다. 저는 기술 발전이 인류에게 많은 편의를 가져다준다고 믿고 있습니다. 컴퓨터와 스마트폰의 발전을 함께 겪으며 자란 세대로서 덕분에 공부도 더 편하게 하고, 지도도 더 편하게 보고, 게임도 더 재밌게 하고, 최근 AI로 정말 많은 업무시간 단축까지 이뤘거든요. 이왕 기술이 많이 발전해서 우리가 일을 많이 할 필요가 없다면, 다같이 일은 덜 하고, 더 많이 쉬면서 돈도 벌 수 있으면 좋지 않을까 생각합니다. 주4일제와 같은 사회제도에 대한 논의가 더 많이, 더 빠르게 이루어져 사람이 AI 발전의 장점은 누리고 단점은 최소화할 수 있게 되길 바랍니다.

AI 윤리 뉴스 브리프 2024년 4월 넷째 주 by. 🎶소소 1. AI Index Report로 보는 AI 윤리 스탠퍼드 인간중심AI연구소가 발간하는 AI Index Report는 전세계 AI 주요 현황을 가늠할 수 있는 다양한 지표를 제공합니다. 최근 이 보고서를 인용한 한국 기술 수준이 이집트, UAE에 밀렸다는 보도가 논란이 되기도 했는데요. 우리나라 과기정통부는 보고서의 분석 대상에서 한국이 제외되었다는 항변과 함께 우리의 기술 수준이 얼마나 뛰어난 지에 대한 정책브리핑을 냈습니다. AI 연구가 영미권을 중심으로 이루어지다 보니 이런 소동도 벌어지는데요. 대학 순위 같은 지표에 우리가 너무 집착하고 있는 게 아닌가 하는 생각이 들었습니다. 보고서에서 참고할 만한 AI의 사회적 영향과 관련된 지표 몇 가지를 소개합니다. AI 사고 건수는 2013년 대비 20배 이상 증가했습니다. AI 활용이 확대되고, 위험에 대한 인식도 같이 높아지며 신고 건수가 늘어났기 때문이라고 추측됩니다. AI 제품과 서비스에 대해 불안함을 느끼는 사람(52%)뿐만 아니라 AI가 내 삶에 미치는 영향이 클 것이라 생각하는 사람(66%)은 모두 작년 대비 증가했습니다. AI 규제도 전세계적으로 계속해서 늘어나고 있습니다. 점점 더 많은 규제기관이 AI 시스템의 영향을 평가하고 위험을 완화하는 데 관심을 보이고 있는데요. 이에 반해 아직 AI 모델의 위험 평가 지표는 표준화되지 않고 있습니다. AI 모델의 위험이 정확히 평가되지 않으면 규제도 어려울 수 있습니다. 보고서는 AI 모델의 개인정보보호, 투명성, 안전성, 공정성을 평가할 수 있는 최근 연구와 벤치마크도 함께 소개하고 있습니다.   2. 오픈소스로 공개된 라마3 메타가 새로운 오픈소스 모델 라마3(Llama3)를 공개했습니다. 모델의 성능이 크게 향상되어 GPT-4 못지않다며 AI 커뮤니티의 지지를 받고 있는데요. 더 많은 사람이 사전 학습의 부담 없이 초거대AI를 활용할 수 있기 때문입니다. 실제로 라마 모델을 기반으로 많은 서비스가 생겨나고 관련 연구도 활발해졌습니다. 오픈소스 모델은 누구나 어떤 목적으로든 활용할 수 있는 만큼 위험하게도 활용할 수 있다는 점이 고려되어야 합니다. 메타는 AI 모델의 안전성을 높이기 위해 종합적인 안전 조치를 진행했다고 밝혔습니다. 이용자의 질문(프롬프트)과 모델의 답변의 안전성을 감지하고 분류할 수 있도록하고 내외부 전문가 레드팀으로 모델의 안전성을 평가하고 개선했다고 하는데요. 앞으로 라마3를 기반으로 새로운 서비스를 만들게 될 개발진의 역할도 중요합니다. 메타는 책임있는 개발 가이드를 배포하며, 모델의 오픈소스화는 AI 생태계를 하나로 모으고 잠재적 위험을 완화하는 방법임을 강조했습니다. 한 편 라마3가 진정한 오픈소스라고 볼 수 있는가에 대한 논쟁은 여전히 남아있습니다. 오픈소스의 정의에는 정보의 공개 여부뿐만 아니라 사용 권한의 범위도 포함되기 때문입니다. 라마3는 모델 카드에서 모델 아키텍처, 매개변수, 여러 벤치마크 평가 결과를 함께 공개했습니다. 그러나 라마3의 사용 제한 조건은 라마2와 동일합니다. 출시일 기준 MAU(월간활성사용자)가 7억 명 이상인 서비스 사업자는 모델을 사용할 수 없고, 라마3의 생성 결과물로 다른 모델의 학습에 활용할 수 없으며, 모델 훈련 데이터도 15T라는 것 외에 공개된 것은 없습니다.  3. 영국, AI로 성착취물 생성만 해도 처벌 영국 정부가 당사자의 동의 없이 AI로 성적인 이미지나 영상을 만든 사람을 처벌할 수 있는 형법 개정안을 마련했습니다. 제작자는 이미지나 영상의 공유/유포와 관계없이 처벌됩니다. 물론 성착취물을 외부에 공유하는 경우에는 지난해 개정된 온라인안전법에 의거하여 더 무거운 처벌을 받게 됩니다. 앞으로 AI로 만든 사진이나 영상의 품질은 더 높아지고, 진위를 구분하기는 점점 더 힘들어질 것입니다. 미국 FBI는 AI로 생성한 성착취물 피해자가 증가하고 있음을 경고했습니다. 한국에서도 딥페이크로 합성한 영상물로 인한 디지털 성범죄가 늘고 있다고 합니다. 피해자 절반 이상이 10~20대 여성이라는 점이 매우 우려되는 상황입니다. 생성 AI를 이용한 여성의 성적 대상화를 막고 안전을 보장하기 위한 예방책이 절실합니다. 더 읽어보기 생성 AI 성착취물 시장의 구조(2023-09-04) AI 분야의 젠더 격차(2024-02-21) 4. 데이터를 사모으는 어도비 어도비(Adobe)가 영상 생성 AI 모델을 만들기 위해 분당 3달러에 비디오 데이터를 구입한다고 합니다. 이미지나 영상 데이터의 출처를 언급하지 못하고 있는 오픈AI와 달리 어도비는 ‘저작권 문제 없는 데이터’를 강조해 온 행보를 이어갈 것으로 보입니다. 물론 학습 데이터를 구매하는 것만으로 모든 문제가 해결되는 것은 아니지만요. 더 읽어보기 데이터, 어떻게 팔아야 잘 판 걸까? ...팔아야 하는 걸까?(2024-03-25) 오픈AI를 곤란하게 하는 학습데이터(2024-03-18) 생성 AI와 저작권, 정산은 본질이 아니다(2023-07-10) 오늘 이야기 어떠셨나요?여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다. 

스케일이 커진다면 지능이 등장할까? [Part. 2] by 🧙‍♂️텍스 데이터로 모방한 지능 앨런 튜링은 1950년 “Computing Machinery and Intelligence”라는 논문에서 흔히 튜링 테스트라고 불리는 이미테이션 게임(Imitation game)을 제안했습니다. 튜링 테스트는 컴퓨터(A)와 사람(B) 그리고 심판(C)의 세 플레이어가 있는 게임으로 대화를 통해서 심판이 컴퓨터와 사람을 판별합니다. 심판은 상대방을 직접 확인할 수는 없고 터미널을 통해서 대화를 주고받습니다. 심판이 만약 사람과 컴퓨터를 구분하지 못한다면 컴퓨터가 지능을 갖고 있다고 생각할 수 있지 않냐는 제안입니다. 튜링 테스트는 인공지능 분야의 근간을 형성해 왔습니다. 데이터로 구축한 인공지능 알고리즘은 암묵적인 튜링 테스트를 수행합니다. 벤치마크 상 성능 측정은 심판의 역할을 대체합니다. 이 관점에서 생각하면 더 많은 데이터를 사용한다는 것은 사람의 행동을 더 잘 모방하려는 시도라는 것을 명확하게 알 수 있습니다. 심판이 어떤 질문을 할지 모르니 최대한 준비를 잘해두는 것이죠. 앞서 살펴본 GPT-1, GPT-2 그리고 GPT-3에서 보듯이 학습 데이터와 모델의 스케일을 키우면 성능이 오릅니다. GPT-4에 이르러서는 SAT나 변호사 시험 같은 시험에서 사람 수준의 성적을 달성했다고 주장합니다. 적어도 시험 채점하는 사람 입장에서는 알고리즘인지 사람인지를 구분하기 힘든 시대가 되었다고 할 수 있습니다. 이런 맥락에서 모델과 데이터 스케일이 더 커지면 AGI에 도달할 수 있지 않겠냐고 기대하는 것입니다. 다만, 출제자의 의도를 비틀어서 문제를 푼 느낌입니다. 심판이나 인간은 개별 사람인 데 반해서 컴퓨터는 인터넷 스케일의 데이터를 다루는 상황이기 때문이죠. 탐탁지는 않지만, 이러한 인공지능 알고리즘은 적어도 튜링 테스트 관점에서는 지능의 요소를 갖추고 있다고 조심스럽게 말해볼 수 있을 것 같습니다.  또한 이러한 지능은 벤치마크 내에서만 작동한다는 한계가 있습니다. 학습 데이터를 바꾸면 인공지능 알고리즘의 성질도 바뀌기 때문이죠. 스케일 법칙 또한 평가용 벤치마크 내에서 스케일을 키웠을 때 성능이 오른다는 이야기이기 때문입니다. 고려 대상 밖의 데이터에 대해서 성능이 오른다는 증명이나 법칙은 없습니다. 단지 믿음일 뿐입니다. 이러한 맥락에서 현시대의 인공지능은 데이터 지능이라고 불러야 할 듯싶습니다. 데이터 지능 길들이기 인터넷에서 수집한 데이터는 굉장히 많은 잡음이 섞여 있습니다. 사회의 다양한 의견 뿐만 아니라 극단적인 주장도 포함되어 있고, 시간에 따라서 사실이 변했거나, 불확실한 정보 또한 담겨있을 것입니다. 데이터를 모방하는 현재의 인공지능 패러다임의 특성상 데이터를 정제는 필수적입니다. 이 과정을 통해 사회적인 합의를 데이터의 형태로 표현하고 알고리즘을 이를 모방합니다. 하지만 많은 경우 정제한 결과를 사회적인 합의라고 가정하는 경우가 더 많은 것이 아닌가라는 의문이 듭니다. 최근 구글 제미나이의 이미지 생성 알고리즘의 해프닝은 이러한 문제가 얼마나 어려운 지에 대해서 알 수 있습니다. 제미나이 이미지 생성 알고리즘의 해프닝 관련 X 포스팅. 출처: X 포스팅 링크   데이터셋의 편향으로 인해 알고리즘이 성별이나 인종에 대한 편견을 갖는다는 사실은 생성AI가 등장하기 이전에도 이미 많이 알려져 있습니다. 이를 보완하기 위해서 성별과 인종같이 편향이 있는 개념에 대한 편향없는 예측을 강제하도록 하는 불편향(de-biasing) 알고리즘이 많이 제안되었습니다. 제미나이의 문제는 불편향 알고리즘과 생성AI의 교차 지점에서 발생한 것으로 보입니다. ‘흑인으로 묘사된 미국 건국의 아버지’, ‘흑인 나치 군인’, ‘여성 교황’은 사실 정보에 약한 현재 생성AI의 특성을 보여주는 사례입니다. 사회적 지능이 있다면 사실 정보와 윤리적 개념을 이해할 수 있겠지만, 데이터 구성에 판단을 위탁하는 현재 알고리즘에는 어려운 문제입니다. 현재 인공지능 알고리즘이 이를 다루기 위해서는 데이터셋 상 편향을 완화하면서도 동시에 실존 인물들에 대한 사실 정보를 모두 고려하여야 합니다. 이러한 사례뿐만 아니라, 데이터 지능은 AI 윤리에서 새롭게 밝혀지는 사실을 모두 케이스 바이 케이스로 다뤄야 할 가능성이 높습니다. 오픈AI는 스케일은 이러한 문제를 해결해 주지 않는다는 사실을 가장 잘 알고 있습니다. 오픈AI는 정렬(alignment) 이라는 방법을 고안하고 나서야 챗GPT 서비스를 시작했습니다. GPT-4에서도 여전히 AI 정렬을 사용하고 있습니다. 결과적으로 현재 데이터 지능의 패러다임에서 데이터셋을 구축은 그 자체로 지능을 부여하는 것과 동일합니다. AI 윤리 또한 자연스럽게 고려되어야 할 수 밖에 없습니다. 그리고 최근에는 챗GPT가 생성한 결과에 직접적인 피드백을 줄 수 있는 인터페이스가 추가되었습니다. 챗GPT에 대한 피드백을 제공해 주기 때문에 사회적 지능에 대한 내부 벤치마크를 구성하는 용도로 사용될 가능성이 높습니다. 스케일이 지능을 만드는 것은 아니지만, 벤치마크로 포획된 데이터는 잘 푼다는 데이터 지능의 특성을 고민해 볼 필요가 있습니다. 또한 이렇게 수집한 데이터는 외부로 공개되지 않는다는 측면에서 추후 추격하든 다른 회사 대비 오픈AI의 차별성이 될 가능성이 높습니다. 이는 장기적으로 사용자층을 많이 보유하고 있는 글로벌 LLM 서비스들이 관련 시장을 독과점할 가능성이 높지 않겠느냐는 우려를 낳습니다.  AI 정렬 (Alignment)은 오픈AI가 InstructGPT라는 연구에서 제안한 거대언어모델(LLM) 미세조정기법입니다. 사용자 의도를 훨씬 더 잘 따를 수 있게 명령어 대화 데이터셋을 구성하고 이를 이용하여 거대언어모델을 미세 조정하는 기법이며, 이 과정을 통해 보다 진실되고(truthful) 덜 독성(toxic)을 가진 생성 결과 의도하였다고 주장합니다. 실천적 지능을 위한 AI 에이전트 튜링 테스트는 이미 한계를 맞이했기에 이를 보완할 수 있는 지능의 정의가 중요합니다. 최근 관심을 받는 AI 에이전트는 목적에 따라서 작업을 계획하고 실행에 옮기는 것을 목표로 합니다. AI 에이전트가 목표를 달성하기 위해서는 튜링 테스트 지능과는 다른 형태의 실천적 지능을 요구합니다. 최근 오픈AI의 sora가 놀라운 동영상 생성 능력으로 많은 관심을 받았습니다. 흥미로운 점은 sora의 기술 보고서의 제목 “Video generation models as world simulators”에서 드러나듯이 동영상 생성뿐만 아니라 sora는 현실 세계에 대한 시뮬레이터 역할도 가능한 것으로 보입니다. 과거 오픈AI가 수행했던 마인크래프트 에이전트 연구를 보면 동영상 기반의 시뮬레이터에 대한 힌트를 얻을 수 있습니다. 실제로 sora의 데모 영상 중에도 생성된 마인크래프트 플레이 영상이 있습니다. 2022년 6월에 공개된 Video Pre-training Model (VPT)는 마인크래프트 에이전트를 만드는 방법을 제안했습니다. 학습된 VPT는 동영상 기반의 마인크래프트 에이전트이자 시뮬레이터로 사용될 수 있습니다. 이 연구는 다이아몬드 곡괭이를 만들 수 있는 첫 번째 마인크래프트 에이전트로 유명세를 치렀습니다.  VPT를 구축하는 전체 파이프라인은 챗GPT를 만드는 과정과 유사합니다. 우선 두 종류의 데이터 수집을 했습니다. (1) 인터넷에서 대규모 마인크래프트 플레이 영상을 수집하여 정제하였고 (2) 사용자의 키보드 조작이 포함된 고퀄리티의 마인크래프트 플레이 영상 데이터셋을 직접 구축하였습니다. 이 두 가지 데이터셋을 이용해 VPT를 사전 학습을 합니다. 학습된 VPT는 동영상 속 사용자가 어떤 키보드 조작으로 캐릭터를 조종했는지 역으로도 알 수 있으며, 어떤 동작을 할 때 게임 속 미래 예측이 가능합니다. (3) 하지만 에이전트로써는 능력이 부족했기 때문에 VPT를 풀고자 하는 문제에 미세 조정(fine-tune)을 합니다. 여기서는 다이아몬드 곡괭이를 만들기 위한 미세 조정을 합니다.  앞으로 AI 에이전트 등장도 VPT와 비슷한 양상을 보일 것으로 예상됩니다. (1) 사전 학습을 위한 대규모 데이터셋이 필수적일 것입니다. (2) 에이전트가 환경과 상호작용하는 데이터셋이 필요할 것입니다. (3) 그 자체로는 작업을 수행할 능력이 부족할 것이기 때문에 작업에 대한 정교한 미세 조정이 필요합니다. 인공지능에 대한 하이프(Hype)를 경계하자 이 글에서는 현재 생성AI로 대표되는 인공지능을 데이터 지능이라는 표현으로 지칭했습니다. 데이터 형태로 사회적 합의를 서술하는 것은 매우 섬세한 작업이며 높은 노력을 요구로 합니다. 이는 단순히 데이터의 양을 늘려서 해결되는 부분이 아니라 질을 올려서 해결해야 하는 부분을 의도했습니다. 인공지능에 대한 과도한 기대 혹은 하이프를 경계하자면서도 데이터 지능이라고 짚은 이유는 스케일 업은 파운데이션 모델이라는 개념어로 이미 인공지능 알고리즘의 패러다임으로 굳어졌기 때문입니다. 엔비디아뿐만 아니라 인텔, AMD 등 내로라하는 반도체 기업들이 파운데이션 모델 혹은 생성AI용 반도체를 이야기하고 있습니다. 특정 알고리즘을 위한 전용 하드웨어는 실행 속도 및 전력 측면에서 로그 단위의 획기적인 개선을 가져오는 경우가 많습니다. 이렇다는 것은 스케일 업에 대한 비용이 크게 줄어들면서, 현재 생성AI가 다른 분야로 빠르게 전파되고 관련 논의가 반복될 가능성이 크다는 것을 의미합니다. 유튜브의 동영상을 인공지능 학습에 사용하지 말라는 구글의 경고(2024년 4월 둘째 주 브리프)는 이미 동영상에 대한 대규모 데이터셋 수집이 AI 에이전트를 위해 이루어지고 있다는 현실을 보여줍니다. 이미지나 텍스트에서도 콘텐츠 창작자가 논의에서 소외되어 있었는데 동영상에서도 마찬가지로 언급되지 않고 소외되고 있습니다. 학습용 데이터의 기저에는 사람의 프라이버시나 저작권과의 교차점이 언제나 존재합니다. 이러한 논의를 꾸준히 진행해야 빠르게 변하는 시기에 관련 논의에서 주도권을 잡을 수 있으리라 봅니다. 다만, 최근 AI 에이전트 분야에서 일어나는 하이프에 대해서는 크게 경계해야 할 필요가 있습니다. AI 에이전트는 튜링 테스트를 벗어나는 지능을 달성할 가능성을 갖고 있지만, AI 에이전트를 잘 작동시키기 위해서는 넘어야 할 산이 많습니다. 텍스트나 이미지, 비디오와 같은 (1)의 형태의 데이터는 인터넷에 많이 있지만, AI 에이전트가 환경과 상호작용하는 (2)의 형태의 데이터는 매우 희귀합니다. 특히, 올해 휴머노이드 로봇에 대한 이야기들은 강한 하이프로 생각됩니다. 현실에서 작동하는 로봇에 대한 데이터는 매우 드물고 이에 대한 (1), (2), (3)의 형태의 데이터셋 구축은 매우 어려운 일입니다. 즉 생성AI와 다르게 스케일 업에 기반한 데이터 지능을 구축하기 비용이 크게 듭니다. AI 에이전트는 기존 생성AI 대비 인간에게 직접적인 위해를 끼칠 가능성이 더 크기 때문에 AI 윤리 관점에서의 성찰이 필요할 것으로 보입니다. Stable Diffusion과 챗GPT는 창작 툴과 같은 형태로 제공되기 때문에 현실에 직접적으로 위해를 끼치지는 않습니다. 하지만 AI 에이전트의 경우는 현실에서 작업을 수행할 수 있는 형태이기 때문에 인간에게 직접적인 위해를 끼칠 가능성이 더 커집니다. AI 에이전트에게는 기존 인공지능 알고리즘보다 더 높은 AI 윤리 기준을 고민해볼 필요가 있다고 보입니다. 그래서 왜 AI가 정치적이라고요? by. 🤔 어쪈 ‘인공지능은 정치적이다.’ AI 윤리 레터를 계속 읽어온 구독자라면 꽤나 익숙하게 느껴질 문장일테죠. 하지만 인공지능이 왜 정치적인지 명쾌하게 답하기란 여간 쉬운 일이 아닙니다. 이제 막 선거가 끝나서인지 정치캠페인 속 딥페이크나 이른바 ‘가짜뉴스’를 퍼나르는 추천 알고리즘과 같은 사례가 먼저 떠오르는데요. 보다 넓은 의미의 정치를 생각해볼 순 없을까요? AI 윤리 북클럽에서 <민주주의와 AI>를 주제로 읽은 두번째 책, <인공지능은 왜 정치적일 수밖에 없는가 (마크 코켈버그 저)>는 앞서 던진 질문을 고민하기에 제격인 저작입니다. 다만 지금껏 읽은 것 중에 평이 가장 극명하게 갈린 책이기도 합니다. 아마도 AI의 주된 정치적 쟁점을 면밀히 분석하기보다 기존 정치철학적 논의가 AI와 어떻게 연결되는지를 살피고, 그 과정에서 파생되는 질문들을 계속해서 던질 뿐 좀처럼 명쾌한 저자만의 답을 들려주지 않아서였던 것 같아요. 분명 다소 도발적인 번역본 제목보다 원제(AI의 정치철학; The Political Philosophy of AI)가 더 어울리는 개론서입니다. 정치철학을 AI로 업데이트하기 책의 각 장은 정치철학의 주요 개념으로부터 출발합니다. 책의 전반부에서 다루는 자유, 평등과 정의는 AI가 사회에 보다 깊숙이 자리잡으면서 그 의미와 전제를 재검토해야하는 대상이 되었습니다. AI 덕분에 대규모 인간 행동 데이터를 분석하고 개입할 수 있게 된 지금, ‘넛지’라는 단어 아래 손쉽게 조종당하는 우리는 여전히 자유롭다고 할 수 있을까요? 과거에 축적한 데이터 간 상관관계만을 학습한 AI를 보다 평등하고 정의로운 미래 사회를 구축하는 데에 쓸 수 있을까요? 자유, 평등과 정의에 대한 논의가 AI를 고려하여 갱신되어야 한다면, 이를 토대로 하는 민주주의 역시 마찬가지일겁니다. 특히 우리가 민주주의를 실현하기 위해 발전시켜 온 제도가 자유를 기본 전제로, 평등과 정의를 주요 방향성으로 삼아 설계되었기 때문에 이것이 여전히 유효한지 의문을 제기할 수 있겠죠. 책은 앞서 언급된 물음들을 권력이라는 개념을 중심으로 다시 살펴보기도 합니다. AI는 권력을 행사하기 위한 도구로 직접 쓰일 수도 있지만, 새로운 권력 작동 방식과 적용 지점을 만들어 낼 잠재력 역시 갖고 있습니다. 또한 AI가 지금의 지배적인 이데올로기 아래에서 만들어진만큼 다양한 사회적 모순에서 결코 자유롭지 않으며, 오히려 강화하기도 하죠. 더 나아가 권력이 꼭 하향식으로만 작동하는 게 아니라 미시적 수준에서 개개인의 자아정체성을 구성하는 것 역시 권력작용이라는 지적은 AI에 가상의 ‘빅 브라더’ 이미지를 씌우기보다 실제 우리 지각과 행동을 매개하는 AI 기술에 주목할 것을 제안합니다. “AI는 하나부터 열까지 정치적”이라는 저자의 입장을 다르게 표현하면 AI는 가치중립적이지 않다는 말이기도 합니다. 하지만 거꾸로 화살을 우리에게 돌려볼 수도 있습니다. AI에 더 많은 행위주체성을 부여할수록 동물, 환경을 포함한 비인간에 대한 인간의 정치적 입장의 재고 필요성 역시 커지는 셈이죠. 요컨대 인간중심적 사고방식에서 벗어나 지금껏 논의한 주제들을 다시 살펴봐야할 수도 있다는 뜻입니다. AI 윤리에서 기술 윤리로, 또다시 AI 윤리로 책의 주제는 분명 AI이지만, AI가 아닌 다른 기술을 중심으로 서술하더라도 크게 다르지 않은 내용이 담겼을 것으로 보입니다. 예컨대 <가짜뉴스의 고고학>에서 살펴봤던 것처럼, AI 등장 이전에도 시대별로 여러 미디어 기술들이 정보를 조작하고 사람들을 조종하기 위해 쓰였죠. AI가 (정치철학적) ‘문제‘라는 주장은 충분히 설득력이 있었지만 왜 ’AI‘가 문제인지에 대해서는 책을 읽는 내내 물음표가 떠올랐습니다. 하지만 덕분에 우리가 왜 AI 윤리 북클럽이라는 이름 아래 모여앉아 책을 읽고 토론을 하는지를 다시금 확인할 수 있었습니다. 오직 ‘AI’에만 관심이 있었다면 이런 책을 읽지도, AI의 정치철학을 논하지도 않았겠죠. 분명 그보다는 공동체와 사회에 대한 관심이 우리를 AI 윤리라는 주제로 이끌었을 겁니다. 물론 우리는 AI에도 관심이 많습니다. 이 책을 통해 ‘그 어떤 것도 정치적이지 않을 수 없다’는 명제를 되새기며 AI 윤리에서 기술 윤리로 시야를 넓힐 수 있었다면, 다른 책을 통해 ‘왜 AI인가‘라는 질문에 대한 답도 찾아보려 합니다. 💡 그 외 모임에서 나온 질문들: 인공지능이 사용자 데이터를 기반으로 맞춤형 콘텐츠를 제공할 때, 이것이 사용자의 의사결정에 실제로 얼마나 영향을 미치는 것일까? 이러한 영향을 토대로 AI를 억압 및 착취의 도구가 아닌 변화의 도구로 만들기 위해서는 어떻게 해야 하는가? 거대언어모델(LLM)을 빅테크 기업만이 아니라 누구나 사용할 수 있게 된다고 더 민주적인 사회가 될까? 기업 소유의 소셜 미디어와 정부 통제 미디어 중 무엇이 더 민주적인가? 민주적이지만 더 민주적이지 않은 역설이 발생하진 않는가? 데이터는 누구의 것인가? 정말 이용자만의 것이라고 할 수 있는 것일까? 이용자의 것으로 규정하고 관련 제도가 마련되면 권력의 비대칭이 사라질 것인가? 그 외로는 이용자(또는 소비자)로서의 대항 권력을 갖출 방법이 없는가? 인간 → 동물 → 환경 → 인공지능까지 정치적 지위의 인정 범위를 계속해서 확대해야만 하는 것인가? 인간중심적이지 않은 비인간중심성은 가능한 것일까? 오늘 이야기 어떠셨나요?여러분의 유머와 용기, 따뜻함이 담긴 생각을 자유롭게 남겨주세요.남겨주신 의견은 추려내어 다음 AI 윤리 레터에서 함께 나눕니다. 

[인터뷰] 개발자 겸 유튜버 조코딩의 진단 "1차 산업혁명처럼 문제도 있겠지만 결국..."                                                                                                                                                                -인터뷰어 및 정리 : 김재경 *세상을 바꾸는 인터뷰' 시리즈는 기존 인터뷰들과 색다른 접근(인물, 이슈 등)을 통해 공익적 목적을 달성하고자 기획되었습니다. 김민준(오마이뉴스 시민 기자)과 김재경(연구활동가(Activist Researcher))가 함께 약 2주에 한 번 오마이뉴스, 캠페인즈, 얼룩소, 브런치에 연재합니다. 2022년 11월, 챗지피티(ChatGPT)가 출시되고 인공지능(AI)이라는 키워드는 알파고와 이세돌의 대국 이후 두 번째 전성기를 맞이하게 됐습니다. AI는 글쓰기부터 코딩, 번역 이미지 및 동영상 생성 등 다양한 분야에서 인간의 보조 혹은 그 이상을 수행해내며 우리의 삶을 바꿔나가고 있습니다.  하지만 관련 뉴스에선 주로 어떤 AI 기술이 얼마나 발전했는지, 혹은 엔비디아(NVDIA) 같은 반도체 기업의 동향에 대해 주목할 뿐 정작 보통 시민들이 궁금해할, AI가 우리의 삶을 어떻게 바꿀지에 대한 정보는 부족한 편입니다. '세상을 바꾸는 인터뷰 AI 시리즈’는 이런 내용들을 심층적으로 다루고자 합니다. 이번에는 AI를 직접 서비스하는 개발자이자, 재밌고 유익한 AI 컨텐츠들로 대중과 소통하고 있는 유튜버 조동근(이하 조코딩)님을 만나봤습니다. 3월 27일 구로디지털단지에서 진행된 조코딩님과 인터뷰는 흥미롭고 유익했는데요. 본인이 AI 전문성을 가지고 있으면서 시인, 음악가 등의 전문가와 AI에 대해 의견을 나누고, AI 컨텐츠와 정보를 유튜브로 내보내며 대중과 소통하는 조코딩님은 AI가 우리 삶의 다양한 영역에 어떤 영향을 미칠지 여쭤보기에 가장 적합한 분 중 한 명입니다.. 인간의 분야를 하나씩 정복해 나갈 AI - 간단한 자기 소개 부탁드립니다. "안녕하세요. 저는 유튜브에서 누구나 배울 수 있는 쉬운 코딩 채널 유튜브 조코딩 채널을 운영하는 유튜브 크리에이터 조코딩(실명 조동근)입니다."   - 최근 AI와 관련하여 다양한 흥미로운 컨텐츠를 진행하셨죠. 그루비룸이라는 프로듀서와 같이 노래를 만들어보기도 하고, 가수 폴킴과 함께 AI와 가수 중에 진짜 가수를 찾는 'AI클론싱어'도 진행했어요. 이런 프로그램들을 기획하게 된 계기는 무엇인가요? "저는 생성형 AI가 인기를 끌기 전부터 개발과 관련된 컨텐츠를 만들어왔는데요. 마침 유튜브가 주최한, 아티스트와 협업할 수 있는 아티스트 커넥트 프로그램에 참여하여 10CM의 권정열님과 함께 컨텐츠를 진행할 수 있는 기회를 얻었습니다. 어떤 걸 같이 할 지 고민하다 나온 아이디어 중 하나가 말씀해 주신 '클론싱어'였죠. 이외에도 'AI 공작소'를 통해 지금까지 사용중인 저희 유튜브 채널 엔딩곡을 권정열님과 함께 AI로 만드는 등 다양한 생성형 AI 컨텐츠를 만들어 왔습니다."- 앞선 질문에서는 '음악'과 관련된 AI를 전문가분들과 함께 다루셨고, 직접 서비스하시는 '조카소 AI'에서는 조만간 사진을 올리면 댄스 영상을 만드는 '댄스 AI'도 출시 예정이죠. 이런 경험들을 토대로 봤을 때, 현재 생성형 AI의 성능은 분야별로 어느 정도인가요?"현재 분야마다 AI의 발전 정도가 다르지만, 앞으로 한 분야씩 인간 전문가보다 더 뛰어난 능력을 보이게 될 겁니다. 이미지 인식의 경우, AI가 인간의 성능을 뛰어넘었고, 이미지 생성 AI의 경우엔 점점 인간의 창작물과 구분하기 어려워지고 있어요. 개발자 입장에서도 다양한 AI를 활용하면 여러 분야의 전문가와 함께 일하는 효과가 있습니다. 실제로 제가 만든 AI 서비스인 '조카소'에서 활용하는 AI도 무료 오픈 소스로 제공된 AI를 활용해 기존보다 쉽게 제작했습니다."- 앞서 살펴본 생성형 AI의 발전에 대해, 각 분야의 전문가분들은 어떻게 생각하시는지 간단히 들어볼 수 있을까요?"생성형 AI의 성능이 좋아진 만큼, 관련 업계 종사자들의 우려 역시 커지고 있습니다. 개발자를 준비하던 분들의 경우, 이미 AI가 개발자를 대체하기 시작했기 때문에 진로를 고민하게 됐습니다.그리고 앞서 소개했듯이 이미지 생성AI의 성능은 매우 뛰어난데요. 제 채널에서 하상욱 시인과 ChatGPT가 대결했던 적이 있는데, 많은 분들이 어떤 시가 하상욱 시인이 작성한 건지 헷갈려 하셨을 정도로 생성형 AI가 시 역시 잘 작성하고 있습니다. ChatGPT-4의 시대에 이미 여러 분야에서 AI의 성능이 뛰어난데, 곧 나올 ChatGPT-5 혹은 그 이후 버전이 나온다면 생성형 AI가 더 많은 분야의 많은 전문가들에게 유용함과 걱정을 함께 안길 것 같습니다."- 과거에 전문가들이 내놓은 예측 중, 예술가는 AI로부터 안전할 거라고 하는 등 AI가 위협할 일자리들에 대한 예측이 많이 틀렸음을 쉽게 알 수 있죠. 겨우 5년, 10년 전인데 AI와 관련된 예측들이 왜 크게 빗나갔을까요?"당연한 이야기지만, 미래는 아무도 알 수 없기 때문입니다. 미래학자이자 공학자인 레이 커즈와일이 말한 '수확 가속의 법칙'에 따르면, 기술의 발전 속도는 점점 빨라지고 있으며, 이에 따라 과학 기술이 할 수 있는 일을 전문가조차도 예측하기 어렵게 된 거죠. 그럼에도 OpenAI의 CEO인 샘 알트만이나 NVDIA의 CEO인 젠슨 황과 같이 AI 업계 최선두를 달리는 전문가들의 예측은 다른 전문가들의 예측보단 맞을 확률이 높다고 생각합니다." - 그렇다면, 생성형AI가 사람들의 일자리를 위협할까요? 위협한다면, 얼마나 위협할까요?"당연히 위협할 수밖에 없는 상황입니다. AI의 발전은 산업혁명처럼 혁신적이고 사회에 큰 영향을 미쳐서 'AI혁명'이라고 불릴 정도죠. 최근 증권사리포트를 보면 프리랜서 작가 수입이 이미 낮아졌어요. AI가 인간이 할 수 있는 일을 하나 하나 정복해 나가면, 인간이 할 수 있는 일의 가치가 상대적으로 낮아지며 수입이 줄어들게 될 겁니다. 일러스트레이터를 예로 들면 독창적 예술성을 가진 소수를 제외하면 일러스트만으로 생계를 유지하기 힘들지 않을까 여겨집니다."- AI가 사람들의 일자리를 위협한다고 하기도 하지만, 동시에 기술 발전은 항상 새로운 일자리를 만들어 내곤 했습니다. 어떤 일자리들이 생겨날까요?"생성형 AI가 더 좋은 답변을 내도록 연구하는 프롬프트 엔지니어는 물론이고, 여러 산업 분야와 업무의 진입 장벽이 낮아지기 때문에 기존 직무를 대체하는 다양한 형태의 일자리가 생기지 않을까 합니다.예를 들어, OpenAI의 CEO인 샘 알트만은 여러 AI를 잘 다룰 경우 1인 기업이 유니콘 기업(기업 가치 10억 달러 이상, 설립 10년 이하)까지 성장할 수 있다고 전망했습니다. 마케팅이나 디자인 등을 생성형 AI로 개인이 혼자 다 할 수 있게 됐거든요. 또한, 한 사람이 여러 직무를 잘 하게 됨에 따라 직종 간 경계가 사라지는 '빅 블러'현상이 나타날 겁니다."   "AI 발전으로 나타나는 문제, 적절히 해결해나가면 결국 인류 발전에 도움 될 것" - 현재 생성형 AI가 가장 크게 활약하고 있는 분야 중 하나가 의료 쪽이라고 들었어요. 생성형 AI가 어떤 성과를 보이고 있는지, 그리고 그 이유는 무엇인지 여쭤봐도 될까요?"ChatGPT와 같은 LLM(대형언어모델)의 경우, 모든 분야와 관련된 인터넷 텍스트 데이터를 전부 넣어서 범용적으로 만든 거다 보니 특정 분야에 대한 성능은 상대적으로 부족할 수 있습니다. 특정 분야에 전문화된 AI는 전문분야 데이터를 더 많이 넣거나 맞춤형 알고리즘을 따로 활용해 AI 모델을 만들기 때문에 성능이 상대적으로 더 좋습니다.의료 분야의 경우, 구글이 개발한 의료 챗봇 에이미(AMIE)가 의사보다 뛰어난 진료 수행 능력을 보인다거나, 엔비디아가 헬스케어 기업 히포크라테스AI와 협업하여 만든 의료 로봇이 인간 간호사보다 성능이 뛰어났다는 결과가 나오는 등 훌륭한 성능과 효율을 보이고 있습니다."- 생성형 AI의 발전으로 인해 발생할 일자리, 가짜 뉴스, 환경 문제 등을 위해 정부와 기업, 시민이 어떤 대응을 할 수 있을까요?"일자리 문제의 경우, 두 가지 접근법이 있습니다. 하나는 1차 산업혁명 시기 자동차 기술이 너무 빠르게 발전하지 못하도록 자동차가 마차 뒤에서만 달리도록 규정한 '레드 플래그 액트'법처럼 AI 발전에 따른 문제를 법으로 규제하는 것이고요. 또 하나는 중장기적으로 AI가 인간 일자리 대부분을 대체할 것이기 때문에, 정책적으로 기본소득 도입을 고민해야 한다고 생각합니다.AI 기술 발전으로 인해 발생하는 가짜뉴스 문제나 환경 문제의 경우, 오히려 기술을 활용해 해결할 수 있다고 생각합니다. 딥페이크 문제를 방지하기 위해 AI가 생성한 이미지에 보이지 않는 워터마크를 삽입하는 구글 딥마인드의 '신스ID(SynthID)'라는 기술을 포함해 테크 기업들의 기술적 노력 등이 필요합니다. 환경 문제의 경우, 생성형 AI가 더 발전해서 AGI단계에 이르게 되면, 혁신적인 과학 기술로 해결할 수 있는 시나리오를 제공하지 않을까 기대하고 있습니다."- 마지막으로 생성형 AI를 포함하여, AI와 관련해 하고 싶은 말씀을 해주세요."AI혁명 시기가 1차 산업혁명과 비슷하다는 생각이 듭니다. 증기 기관의 발명이 기계를 파괴하는 러다이트 운동으로 이어지기도 했지만, 결과적으로는 산업이 발전하여 인류가 혜택을 보고 있죠. AI발전 역시 여러 사회적 문제를 동반하고 있지만, 잘 발전하면 결과적으로 인류에게 도움이 될 것이라고 생각합니다. AI발전을 너무 부정적으로 보지 않고 긍정적인 측면도 바라봐주셨으면 합니다."