“인공지능의 진보는 미래를 여는 문🚪입니다. 그 문을 열기 위한 윤리적 고민이 쏟아지고 있습니다. 이 중요한 고민에 함께 참여하고 미래를 향한 여정에 참여해 보세요!” AI 윤리를 주제로 뉴스레터를 쓴다고 챗GPT에 말하니 추천해 준 문장이야. (물론 약간의 수정을 거쳤어!) 다들 챗GPT나 딥플, 클로바노트 같은 인공지능 프로그램 한 번쯤 써봤어? 아직은 조악하지만 앞으로 무궁무진할 미래🫧가 기대돼. 한편으로는 성범죄나 저작권 침해처럼 인간의 삶에 해💣를 끼칠 수도 있지. 이번호 옾챗에서는 AI부터 AGI까지 인공지능의 미래를 주제로 에디터들의 생각을 들어봤어. AI 윤리, 어떻게 생각해?

🦤도도: 나는 딥플🗣️이라는 번역 프로그램을 자주 쓰고 있어. 독일에서 만든 인공지능 기반 번역기인데, 다른 프로그램보다 훨씬 자연스러워. 특히 외신 기사📰 읽을 때 자주 쓰는데 정당, 단체명을 정확하게 번역해 줘서 놀랐어. 물론 어색한 부분도 많아서 검토🖊️는 필수인 것 같아. 내가 AI에 대한 의심(?)이 많아서 챗GPT도 최근에 써봤는데, 메일📨 보낼 때 쓰면 정말 좋더라고. 중요한 메일 보낼 때마다 첫인사랑 끝인사 고민하는 데 30분씩 썼던 지난날들이 후회된달까…🥲 단순한 업무에 활용하기에는 정말 좋은 프로그램인 것 같아.

☕️아메: 나는 챗GPT랑  달리(DALL·E )를 체험해 봤어!😎 챗GPT는 다들 잘 알거고, 달리는 OPEN-AI에서 개발한 이미지 생성형 인공지능이야🖼 키워드 몇 개를 입력하면 AI가 이미지를 합성해주는 거지! 생각보다 그럴듯한 이미지가 많이 나와서 깜짝 놀랐어😲 난 평소에 손재주가 없어서 고민이었는데🤔 달리가 내가 머리속에 그린 이미지를 구현하는데 도움이 될 것 같았달까💭 

🌿버즈: 나는 클로바노트📝와 챗GPT💬를 사용해 봤어. 언론사에서 잠시 일을 했을 때 선배의 인터뷰 파일을 워드로 변환해야 했거든. 클로바 노트에 한 번 돌려보라고 하셔서 시도해 봤는데.. 결론부터 말하자면, 실망 그 자체였어😐 정~말 대략적인 맥락 정도는 파악할 수 있는데, 기사에 인터뷰를 사용하려면 정확한 워딩이 필요하잖아. 맥락으로는 만족할 수 없는 게 현실이었지. 그래서 빠르게 포기하고 내 귀로 모조리 직접 듣고 타이핑👩🏻‍💻을 했던 기억이 나. 그 이후로 한 번도 접속해 본 적 없어. 챗GPT는 작년 이맘때 쯤 출시가 됐을 때 호기심에 사용해 봤어 ㅎㅎ ‘남자친구에게 편지를 쓸 건데, 적절한 멘트 좀 추천해줄래?😏’ 같은 질문을 했던 기억이 나. 꽤 사람 같은 멘트를 알려줘서 제법인데~ 하고 놀라워 했지! 지금도 종종 창의력이 필요한 일을 할 때 챗GPT에 접속해서 대화🗣를 하고 있어.

🧤여주: 앞서 언급한 프로그램 말고 다른 프로그램을 생각해 보면..🙄 2020년쯤 Vrew라는 한국 스타트업의 영상 편집용 자동자막 서비스를 써본 적 있어. 지금은 어도비 내에도 자동자막 기능이 있을 만큼 흔한 기능이지만, 당시에는 문자 그대로 ‘혁명💥’이었어. 방송국 막내 작가들 잠잘 시간이 늘어나겠다는 우스갯소리가 들려왔지. 네이버 나눔손글씨 글꼴도 좋아해. 예전에는 글꼴을 만들려면 1만1172개의 글자 조합을 손수 써내려가야 했는데, 요즘은 손글씨 250자만 있으면 글꼴 하나가 뚝딱이래. 덕분에 각양각색 사연📞을 가진 손글씨 글꼴이 세상에 나왔다고 하네.

🤖 2015년, 오픈AI가 처음 설립됐을 땐 상업적 목표를 추구하지 않는 비영리 단체로 스스로를 규정했어. 이후 2019년, 자금이 부족해져 투자를 받기 위해 영리적 성격의 자회사 오픈AI LP를 설립했는데, 그 과정을 주도한 게 이번 해임 사태의 중심에 있었던 알트만이었지. 결국 회사의 이념 자체는 ‘수익보다 윤리를 추구’하는 것이었는데, 알트만이 그에 반하는 수익화에 집중하자 해임으로 이어진 것이라는 분석이 지배적이야. 알트만은 결국 오픈AI로 돌아왔고, 개발에 속도를 낼 것으로 보여. 윤리와 수익, AI 기업은 무엇을 우선해야 할까?

🌿버즈: 지난 달 6일, 알트만은 “개발 중인 GPT-5가 AGI가 될 수 있다”며 AGI 개발 가능성을 인정했어. AGI는 일반인공지능으로, 자발적인 사고가 가능하다는 점이 특징이야. 굳이 학습을 시키지 않아도 자율적으로 다양한 상황에 대응🤚🏻이 가능한 거지. 난 양가적인 면이 공존한다고 생각해. 시나리오 분야🎞를 예로 들어 볼까? AGI는 온전히 새로운 스토리를 써낼 수 있을 거야. 이제껏 존재하지 않았던 독창적인 소재💡를 발굴함으로써 인간은 지금보다 몇 배는 다양한 창작물(영화, 책 등)을 접할 수 있게 되겠지. 하지만 시나리오 작가들✒️의 입장에선 어떨까? 인간의 상상력이 닿지 못하는 영역에 AGI가 도달하게 된다면? 하루아침에 쓸모를 잃게 된 그들의 입장도 고려할 필요가 있지. 물론 AGI가 완전히 대처할 수 있는 직업 분야는 없을 거라는 의견이 지배적이야. 하지만.. 정말 그럴까?🤔 그러한 예측을 하는 것도 인간인데, 100% 옳다는 확신은 누가 할 수 있지? 더 이상 AI에 대한 인간의 이해와 통제가 필요 없어 진다면? 그렇기 때문에 AI 개발 기업은 일종의 ‘선’을 지킬 필요🤝🏻가 있어. 수익이 중요한 건 맞지만, 수익 만을 1순위로 추구하는 건 옳지 않아.

☕️아메: 일단 난 아무리 좋은 기술이라도 발전 속도가 빨라서 인간에게 해가 될 정도라면 속도를 약간 늦출 필요가 있다고 봐. 하지만 “인간의 욕심은 끝이 없다”는 말이 있잖아. 기업은 이익 추구가 본능이라고 할 수 있지. 그래서 난 AI 개발 기업이 자발적으로 규제하는 것보단 정부나 의회가 직접 규제에 나서야 한다고 생각해. 참고로 AI 선진국인 미국은 국회가 직접 AI 청문회를 열고, 관련 코커스를 만들어서 AI 관련 법안을 상의한다고 해.

🧤여주: 수익과 윤리, 자본주의 시대 기업이 전자에 끌리는 건 어쩔 수 없다고 생각해. 투자자는 물론 경영인과 그 직원들도 수익화 모델을 만들고 이익을 나누자는 말에 마음이 가지 않을까? 샘 올트먼이야 원래 AGI를 영리 목적💰으로 활용하고 싶었던 사람이고, 직원들은 투자자가 떠날 경우 성과급과 스톡옵션 문제가 생기니 수익화를 바라는 거지. 투자를 안 받을 수도 없어. GPT-5의 파라미터는 무려 125조 개래. 최초의 챗GPT는 1억8000만 개였으니까 성능이 70만 배 향상된 거야. 비용도 덩달아 늘어나지. 오픈AI가 독점해 쓰는 슈퍼컴퓨터 ‘오딧세이💻’도 비용이 어마어마할 거야. 하고 싶은 말은, 비영리 기업이라도 기업인 한, 그리고 막대한 투자를 받은 한, 수익화에서 자유로울 수는 없다는 거야. 기업이 스스로 윤리만을 따를 수는 없으니, 아메(☕️) 말대로 적절한 규제가 개입할 필요가 있어.

🦤도도: 딥페이크는 기술의 긍정적 기능이 부정적 기능을 뛰어넘지 못한 대표적인 사례라고 생각해. 딥페이크의 시초부터가 연예인 얼굴을 합성한 포르노 영상이었다는 사실, 알고 있어?🤬 바이든 미국 대통령, 기시다 후미오 일본 총리 등 정치인 얼굴을 합성한 가짜 영상이 퍼진 사례도 있고, 국내에서는 손석희 전 JTBC 앵커 얼굴을 합성한 투자 권유 광고도 나왔어🤨 기술이 악용된 사례가 너무 많아서 하나하나 나열할 수도 없을 정도야. 물론 긍정적으로 활용해보려는 시도도 있어. 지난 7월에 국방부에서 16년 전 순직한 박인철 소령을 AI로 복원해서 어머니께 보여드렸는데, 영상을 보니까 나도 눈물이 나더라고😭 딥페이크가 이렇게만 활용된다면 참 좋겠다는 생각💭도 들었고. 하지만 여전히 악용되는 사례가 훨씬 많은 만큼, 그에 대한 강력한 규제와 처벌🚨이 필요할 것 같아.

☕️아메: 요즘 뉴스에 딥페이크 관련 사건사고가 너무 많이 보이더라고😩 지인의 얼굴을 딥페이크 기술로 합성해서 가짜 음란물을 만들었다는 뉴스는 정말 충격이었어. 딥페이크 기술이 상용화되면 이런 문제가 더 심해질 수 있는 만큼, 제대로 대비해야 한다고 생각해. 그래서 난 딥페이크 기술을 꼼꼼하게 규제해야 한다고 봐. 물론 지금도 딥페이크 AI 기술은 '성폭력범죄의 처벌 등에 관한 특별법'에 따라 처벌, 제작 행위만으로도 5년 이하의 징역 또는 5000만원 이하의 벌금을 받을 수 있어! 타인의 얼굴을 부정적인 용도로 사용하면 안 된다는 교육이 필요한 건 기본이고!🤔

🌊비니: 2023 칸🦁 국제광고제(Cannes Lions) 수상작들을 분석하다가 딥페이크를 사용한 재밌는😎 광고를 봤어. 영국의 제과업체🍪 캐드버리(Cadbury)가 인도에서 진행한 '샤룩칸 마이 애드(Shah Rukh Khan My Ad)' 캠페인이야. 유명 배우 샤룩칸📸의 목소리와 얼굴을 이용해서 이용자가 입력한 브랜드를 광고하는 영상을 만들어 주는 기술이야! 코로나 이후로 어려움을 겪고 있는 소상공인에게 AI🤖를 활용해서 홍보 기회를 제공했어. AI 기술이 비즈니스 성장에 미치는 효과를 증명해냈다는 평가를 받고 가장 높은 상인 그랑프리를 수상했어🏅 AI의 부작용을 막을 방안을 마련해야 하는 것도 맞지만, 무작정 규제하기 보다 어떻게 해야 인간과 조화를 이루면서 공존할 수 있을지 고민하는 게 우선이라고 생각해🤔

🌊비니: 유튜브 알고리즘에 종종 떠서 자주 들어봤어! 딘이 부르는 뉴진스의 하입보이, 브루노 마스가 부르는 피프티피프티의 큐피드…엄청 많더라구😲 딘이 부르는 뉴진스의 하입보이는 300만 조회수를 넘었고, AI 커버를 전문으로 하는 유튜브 채널도 생겨났어. 재미로 즐길 수는 있지만 딥페이크에 이어 딥보이스가 또 다른 범죄로 이어질 가능성이 있어⚡️ 유튜브도 심각성을 인지했는지 AI 커버곡을 마치 해당 가수가 실제 녹음한 곡처럼 업로드하는 행위를 규제하는 가이드라인을 도입하기로 했어. 유튜브는 향후 몇 달 안에 AI가 생성한 콘텐츠에 의무적으로 ‘AI가 만들었다’는 표시를 할 예정이야. 저작권을 소유한 회사는 콘텐츠 삭제를 요청할 수도 있어🙆‍♀️

🌿버즈: 사실 난 해당 프로그램을 사용해 본 적은 없고, 관련 기사와 광고를 본 적은 있어. 얼핏 들어보니 가수의 실제 목소리와 정말 비슷해서 ‘기술의 발전은 끝이 없구나..🫢’ 같은 생각을 했었지. 그런데 곰곰이 생각해보니까 내가 그 가수라면 소름이 끼칠 것 같은 거야. 자신이 커버한 적도 없는 노래🎤가 여기저기 유포되고 있다니.. ‘내 목소리를 왜 마음대로 사용하지?’ 같은 생각도 들 것 같고. 물론 저작권을 사적으로 이용하는 것에는 문제가 없다는 게 전문가의 의견이지만, 과연 이 프로그램을 법리적인 측면⚖️에서만 검토하는 게 옳은 걸까? 그러니까, 윤리적인 측면에서 타인의 목소리를 멋대로 가공하는 게 옳다고 볼 수 있냐는 거야. 물론 팬들은 응원하는 가수의 목소리로 좋아하는 노래를 들을 수 있어서 좋다🥰고 하지만, AI 커버 프로그램에 사용된 가수들의 입장도 들어 볼 필요가 있다고 생각해.

🦤도도: 이번 작가·배우 파업✊ 사태를 보면서 AI가 인간의 일자리를 뺏을 수 있다는 걸 실감했어. 파업의 중요한 쟁점 중 하나가 AI의 활용이었는데, 영화·TV제작자연맹📺이 내놓은 협상안에는 회사가 연기자의 동의나 보상 없이 연기자가 촬영한 이미지🎥를 영원히 사용할 수 있다는 내용이 담겨 있었다고 해. 엑스트라를 단역 배우🎭가 아니라 AI 생성물로 채울 수도 있게 되니 단역 배우에게는 일자리가 줄어드는 치명적인 내용인 거지. 다행히 이번 파업을 통해 작가·배우조합이 AI 활용에 대한 합의를 이끌어냈어. 이제 AI 이미지 활용에는 배우의 사전 동의🙆‍♂️가 필요하고, 작가가 작성한 시나리오를 AI가 편집할 수 없게 됐어. 일자리와 지식재산권 보호 측면에서 필요한 합의였다고 생각해🤔

🌊비니: 제작자나 스튜디오 입장에서는 AI를 이용해서 작품의 초고를 만들거나 인간이 쓴 대본을 AI가 수정하는 게 비용💵을 줄이는 방법이니까 선호하고 있어. 그런데 AI는 독자적인 생성물이 아니라, 기존 저작물을 복제하고 학습해서 제3의 결과물을 내놓는 거잖아. 그래서 작가들의 일자리 감소뿐만 아니라 저작권 침해도 문제가 되고 있어. 여기서 멈추지 않고 AI는 배우들의 초상권도 침해🙅하고 있거든. 이미 촬영된 영상에 딥페이크 기술을 적용하면 싼 값에 새로운 영상을 만들 수 있으니까☠️ 톰 크루즈, 레오나르도 디카프리오, 킬리안 머피 등 유명 배우들🎬도 파업에 동참하거나 지지 의사를 밝혔어🎤

☕️아메: 창작물에 대한 저작권을 당연히 보호해야 한다고 생각해. AI기업이 보유한 건 기술뿐이잖아. 소위 말하는 빅데이터는 전부 ‘남이 만든 것'이고! 남의 창작물을 사용하려면 대가를 지불해야지. 넷플릭스 블랙미러 시즌6 ‘존은 끔찍해'라는 에피소드가 있는데,  빅테크 기업이 말 그대로 남의 ‘개인 정보’를 이용해서 콘텐츠를 만드는 내용이야. 보고 나면  저작권의 중요성을 뼈 저리게 느낄 수 있어😱

☕️아메: 앞서 AI와 관련된 부정적인 사례를 많이 언급했지만 난 결론적으로 AI 기술은 인간에게 ‘득’이라고 생각해😎 AI의 등장만으로도 우리는 새로운 세상을 보고 듣고 경험하잖아✨ 상상으로 그쳤던 것들을 직접 실현하기도 하고. 어떤 사람은  “AI는 인간이 불을 발견한 것과 같다"고 말할 정도더라. AI는 인류에게 제 2의 도약이 될 수 있다고 생각해. 가장 중요한 건 모든 사람이 그 혜택을 받아야 한다는 거야. AI로 양극화가 더 심해지는 건 결코 바람직한 미래가 아니니까🙅‍♀️ 

🌊비니: 나도 득👍이라고 생각해! AI 기술의 긍정적 측면을 사회적 문제와 연관 지어서 창의적인💥 아이디어를 만들어낼 수 있게 됐잖아. 미국의 맥주🍺 회사 미켈롭 울트라는 DREAM CASTER 프로젝트로 시각 장애인🧑‍🦯의 스포츠 캐스터라는 꿈을 이루어 줬어. AI를 활용해서 경기의 움직임을 촉감으로 전달하는 조끼를 만들고 코트 위의 소리를 전하는 공간 오디오 시스템을 구축했거든! 시각적인 정보 없이 오직 진동과 소리만으로 경기장에서 어떤 일이 벌어지는지 정확히 파악할 수 있도록 했어. 시각 장애인인 카메론 블랙은 2023년 NBA 플레이오프 3차전 해설을 맡았고 관객들에게 감동을 전달했어. 너무 멋지지 않아?!😎 이외에도 소리를 선택적으로 조절 가능한 인공지능 앱으로 특정 소음에 민감한 자폐 스펙트럼 장애를 가진 사람들의 불편함을 해결해주는 기능도 생겼어. AI 기술이 누군가의 삶을 바꿀 수도 있다고 생각하니까 긍정적으로 보게 됐어👀

🌿버즈: 글쎄.. 딱 나눠서 득 혹은 실이라고 판단할 수 없는 문제 아닐까?😕 AI 기술은 이제 일상과 뗄래야 뗄 수 없는 존재가 됐어. 코딩을 배운 적 없어도 자신이 원하는 AI 챗봇을 언제든 만들 수 있게 된 것, 혹시 알고 있어? 나는 이 소식을 듣자마자, ‘내가 좋아하는 음식이나 맛집을 기반으로 챗봇을 만들면 데이트 코스는 걱정이 없겠다!’는 생각을 했거든 ㅎㅎ 육아, 교육 등 원하는 분야에서 내 입맛대로 AI 프로그램을 제작할 수 있다니.. 정말 미래도시🌌의 일상 같지 않아? 하지만 AI 기술엔 장점만 있는 건 아냐. 미국의 유명 비즈니스 매거진 포춘이 선정한 500대 기업의 92%가 기업 활동에 챗GPT를 활용하고 있대. 요즘 실리콘밸리에서는 최신 AI 기술을 기반으로 한 1인 스타트업을 뜻하는 ‘솔로프러너’라는 용어가 최대 화두이기도 하고. 심지어 ‘알파미센스’라는 AI는 인간이 수행했을 땐 수개월이 걸렸던 1개 단백질 구조 분석을 1년 만에 2억 개나 해냈다는 거야. 전 세계 생명공학자🧑🏻‍🔬들의 수십년 치 일감을 1년 만에 없애버린 것과 다름 없어. 인간이 개발한 AI로 인간이 직업을 잃는 사태, 이것 또한 미래도시의 일상으로 받아들여야 할까? 그 사태가 나에게 닥친다면?😨 당장 결론을 내리긴 어렵지만, 여러 측면에서 다양한 사람들의 고민이 필요한 부분이라고 봐. 

🦤도도: 단순 업무를 완전히 AI가 수행하게 되면 지금도 빠른🏃‍♂️ 한국의 일처리 속도가 더 빨라지지 않을까? 그런데 그 과정에서 개인은 더 피곤🤯해질 수 있을 것 같다는 생각💭이 들어. 이미 우리 사회에 효율과 성과📊를 중시하는 분위기가 만연한데, AI🧠까지 등장하면서 더 빨리, 더 많은 일을 처리해야 한다는 부담이 생긴 것 같거든. 당장 유튜브에 ‘챗GPT 일잘러’라고 검색하면 어떻게 AI를 활용해서 업무 효율을 높일 수 있는지 알려주는 영상들이 많이 나와. ‘똑똑하게’ 일하려면 각종 AI 프로그램🖥️까지 섭렵해야 하는 시대가 된 거지. 이런 모습을 보면 미래에는 AI에 지지 않기 위해 인간이 성능(?)을 더 높여야 하는 무서운 상황이 올 것 같기도 해😅

🧤여주: 도도(🦤) 말이 맞아. 전광용의 <꺼삐딴 리👑>에서처럼 일제강점기 땐 영어만 할 줄 알아도 큰 성공을 거뒀듯, 이제는 AI 활용 역량이 성공을 가름하지 않을까 생각해. 그 과정에서 양극화도 심해질 거야. 좀더 먼 미래에 인간 형태의 인공지능이 등장한다면, 인공지능의 ‘로봇권🤖’까지 고려해 보자는 움직임이 나올 수도 있어. 근미래(2038년)를 배경으로 하는 <디트로이트: 비컴 휴먼>이 인류와 로봇의 갈등을 보여줘. 낙관적 전망도 하나 덧붙이자면! 인류의 노동시간은 차츰 줄어들고 고대 로마 시민과 같은 삶을 살았으면 좋겠다! ‘주2일제’로 소일거리나 하면서 일상은 넷플릭스🖥️와 벤엔제리스🍦로 채워지는 거지! 인공지능이 벌어다 준 나랏돈으로 기본소득 정도 받으면서 말이야.

🌊비니: 새로운 직업이 생겨나고, 사라지는 직업도 많아질 것 같아. 한국은행 연구진이 우리나라 일자리들의 AI 대체 가능성을 분석한 보고서📑를 지난 11월 16일에 발표했어. 의사, 기관사, 공학 기술자와 연구자 같은 고학력, 고소득 전문직 일자리들이 대체될 가능성이 높게📈 나왔어. 반대로 가수, 경호원, 종교인, 기자, 교수 등 사람과의 커뮤니케이션이 중요한 직업은 대체될 가능성이 낮다고 해📉 앞으로 20년 동안 현재 국내 일자리의 12% 정도인 341만 개의 일자리가 AI로 대체될 가능성이 높다니🙀 정말 누구나 AI를 활용하는 방법을 알아야 하는 시대가 온 것 같아. 인간의 관점을 떠나 AI의 관점에서 세상을 바라볼 줄 알아야 하는거지. 당장 나부터 살아남을 수 있을지 걱정이 되네..😖