1. 에이 설마 내 밥줄이 끊길까... 심상치 않은 AI 에이전트 근황 / 오그랲 / 비디오머그
한줄요약: 에이 설마 내 밥줄이 끊길까... 심상치 않은 AI 에이전트 근황 / 오그랲 / 비디오머그
| 시간 | 요약 |
|---|---|
| 07:37 | AI 에이전트의 발전이 가져올 변화는 단순히 일자리 대체에 그치지 않고, 산업 전반에 걸쳐 큰 영향을 미칠 것으로 예상됨. 새로운 기술에 대한 적응과 정책 마련이 필요함. |
| 08:34 | AI 에이전트의 발전이 노동 시장에 미치는 영향이 커지고 있음. 오픈AI의 51 모델이 국제 수학 올림피아드 금메달리스트와 동등한 성능에 도달함에 따라, 기업들은 AI 도입에 적극적으로 나설 것으로 예상됨. 박사급 성능의 AI 에이전트가 월 2만 달러에 제공될 예정임. |
| 09:03 | AI 에이전트의 도입이 기존 비즈니스 모델을 변화시킬 가능성이 높음. 이는 기업들이 경쟁력을 유지하기 위해 AI 기술을 적극적으로 활용해야 함을 의미함. |
| 10:04 | 다보스 포럼에서는 AI가 미래 일자리에 미치는 영향에 대한 논의가 이루어짐. 2030년까지 9,200만 개의 일자리가 사라지고 1억 7천만 개의 새로운 일자리가 창출될 것으로 전망됨. 이는 AI 기술의 발전이 기존 비즈니스 모델을 변화시킬 수 있음을 시사함. |
| 10:33 | AI 에이전트의 도입이 노동 시장에 미치는 긍정적인 영향과 함께, 기존 직업의 감소도 우려됨. 특히 계산원, 티켓 담당자, 회계사와 같은 사무직이 빠르게 감소할 것으로 예상됨. 새로운 기술에 적응하기 위한 재교육과 직업 훈련 정책이 필요함. |
| 12:33 | AI 에이전트의 안전성 문제도 중요한 이슈로 떠오름. AI가 자율적으로 작업을 수행하는 과정에서 악성 공격에 노출될 가능성이 높아짐. 하이재킹 공격으로 개인 정보가 유출될 수 있는 위험이 존재함. |
| 13:03 | AI 에이전트가 이메일과 일정 관리 등에서 하이재킹 공격에 취약하다는 연구 결과가 있음. 슬랙을 활용한 업무에서 공격 성공률이 92%에 달하는 등, 보안 문제는 심각한 상황임. |
| 13:34 | AI 에이전트 시장이 열렸지만, 안전성에 대한 대비가 부족함. 정부나 기관 차원의 대응이 미비한 상황에서 기술 발전이 우선시되고 있음. 이는 사회적 손실을 초래할 수 있는 위험 요소임. |
| 14:04 | AI 석학들은 AI 에이전트의 자율성이 문제를 일으킬 수 있다고 경고함. AI에게 자율성을 부여하기보다는 인간이 통제하고 활용하는 방향이 바람직하다는 의견이 제시됨. |
2. 스크립트
[연봉 3억 5천만 원의 AI, 연봉 10억 원의 박사, 여러분은 누굴 고용하겠습니까?] UT insane. That's pretty [음악] insane. 안녕하세요, 데이터를 만지고 다루는 안혜민 기자입니다. 다섯 가지 그래프로 설명하는 오그랩, 오늘의 주제는 AI 에이전트입니다. 오픈AI, 구글, 메타 같은 빅테크뿐 아니라 우리나라의 삼성전자, LG 같은 기업들도 다들 AI 에이전트를 만들어내기 위해 노력 중이라는 소식, 다들 한 번쯤 들어보셨을 겁니다. 도대체 AI 에이전트가 뭐길래 이렇게 다들 열심인 걸까요? 지금부터 다섯 가지 그래프를 통해 풀어보도록 하겠습니다.. 영화 '아이언맨'을 보면 토니 스타크 옆에는 똑똑한 AI 비서 자비스가 항상 있습니다. 자비스는 토니 스타크의 요구에 따라 저택을 관리하기도 하고, 또 필요한 업무를 서포트하는 비서 역할도 합니다. 때로는 스스로 문제를 해결하기도 하죠.이 자비스의 모습이 바로 수많은 기업들이 뛰어든 AI 에이전트의 이상적인 모습이라고 할 수 있습니다.. AI 4대 구루 중 한 명인 미국의 컴퓨터 과학자 앤드류 응이 지난해 본인 트윗에 이런 글을 올렸습니다. 2024년을 AI 에이전트의 해가 될 것이다. AI 석학의 말대로 2024년부터 AI 에이전트는 꿈틀대기 시작했습니다. 그리고 올해엔 전 세계 곳곳에서 AI 에이전트 소식이 들려오고 있죠. 미국의 정보 기술 연구 회사인 가트너가 올해 10대 기술 트렌드를 뽑았는데, 그 중 아홉 개가 AI이고, 그 중에서도 첫 번째로 언급된 게 AI 에이전트입니다.. AI 에이전트가 어떻게 업무를 처리하는지 직접 비교해 보겠습니다. 일반 AI 모델과 AI 에이전트에게 똑같은 임무를 줘 볼게요. 미션은 이겁니다.
테슬라 주식을 심층 분석해 달라. GPT는 그래프를 보여주면서 분석한 내용을 제시해 줍니다. 뭐, 이것도 나쁘지 않지만 AI 에이전트를 한번 봐 보겠습니다. AI 에이전트는 훨씬 더 다양한 툴들을 자율적으로 활용하면서 정보를 수집하고, 이를 바탕으로 결과물을 제시합니다. 한눈에 볼 수 있는 대시보드 페이지까지 이렇게 뚝딱 뱉어내죠. 만약 AI 에이전트와 같은 수준의 결과물을 얻으려면 우리는 현재 AI에게 하나하나 지시 사항을 전달해 줘야 합니다. 하지만 AI 에이전트는 알아서 다 해내죠. 이게 기존의 모델과 가장 큰 차이점입니다.. AI 에이전트의 핵심 능력은 세 가지입니다.
추론과 계획 능력, 기억 능력, 그리고 행동 능력입니다. 문제가 주어지면 AI 에이전트는 추론 능력을 바탕으로 어떻게 문제를 해결할지 계획을 세웁니다. 그리고 이 문제를 해결하기 위해 AI 에이전트는 다양한 도구들을 활용하죠. 새로운 정보를 얻기 위해 검색을 하기도 하고요, 수학 문제를 풀기 위해선 계산을, 프로그래밍을 위해선 코딩 툴을 사용합니다. 이 과정에서 AI 에이전트는 사용자 컴퓨터 내부에 있는 메모리에도 접근할 수 있습니다. 또 과거에 사용자와 어떤 대화를 했는지도 기억해 두고, 이것들을 다 활용해서 문제를 풀어 나갑니다. 이런 능력을 갖고 있기 때문에 AI 에이전트는 사용자의 요구와 주변 환경 변화에 능동적으로 적응하고 대응할 수 있습니다.. 알아서 척척 이렇게 다 해 줄 수 있는 AI 에이전트에 대한 기대는 시장 규모의 변화로도 확인할 수 있습니다. 오그랩 첫 번째 그래프입니다.
글로벌 시장 조사 업체 그랜드 뷰 리서치의 자료인데요, 2024년 전 세계 AI 에이전트 시장 규모는 53억 9,510만 달러로, 매년 45.8% 성장하여 2030년엔 그 규모가 10배 가까이 늘어날 것으로 전망되고 있습니다. 벤처 캐피털의 자금 흐름도 마찬가지입니다. AI 에이전트 관련 스타트업에 대한 투자는 2023년에 13억 달러 수준이었지만, 작년엔 38억 달러로 거의 세 배 가까이 늘어났습니다. 늘어난 자본을 바탕으로 이미 시장엔 다양한 AI 에이전트들이 선보이고 있습니다. 최근엔 다양한 영역에 능통한 범용 에이전트가 등장하고 있습니다. 오픈AI, 오퍼레이터, 엔트로픽, 컴퓨터 유즈, 구글의 프로젝트 매리너, 그리고 최근 공개된 중국의 마우스까지. 앞서 보여 드렸던 AI 에이전트가 바로 마누스입니다. 기존에 공개된 범용 에이전트들과 비교했을 때 훨씬 우수한 성능을 보인 지라 많은 사람들이 흥분을 했습니다. 현재 비공식 베타 단계로 진행되고 있어서 초대 코드가 리셀 시장에 등장하기도 했습니다..
이렇게 AI 에이전트가 알아서 척척 문제를 해결해 준다면 대단히 편리하겠지만, 또 한편으로는 이런 생각이 듭니다. 혹시나 AI 에이전트가 우리들의 일자리를 대체하게 되는 건 아닐까 하는 우려 말이죠. 일단 AI가 우리 일자리에 얼마나 침투해 있는지부터 살펴보도록 하겠습니다. 클로드를 만든 엔트로픽이 우리들의 삶, 특히 경제와 노동 영역에 어떤 영향을 주고 있는지 살펴볼 수 있는 데이터를 공개하고 있습니다. 이코노믹 인덱스라는 자료인데요, 클로드를 통해 수집한 400만 건이 넘는 익명 대화를 분석한 이 엔트로픽 A 데이터를 가지고 오그랩 두 번째 그래프를 그려봤습니다. AI, 정말 열심히 활용하는.... 직업은 얼마나 될까요? 자신의 업무 중 34%, 그러니까 75% 이상 AI를 활용하는 직업은 4%에 불과했습니다. 조금 더 넉넉하게 잡아도 AI를 활용하는 직업이 그렇게 많지는 않습니다. 자신의 업무의 절반 정도를 AI로 활용하는 직업은 전체의 11%이며, AI 활용도를 반으로 낮춰도 전체 직업의 36%밖에 되지 않습니다.
다시 말하면, 내 업무의 반도 AI를 안 쓰는 직업이 전체의 64%라는 겁니다. 가장 AI를 많이 활용하는 직업은 프로그래머나 개발자처럼 컴퓨터 수학을 많이 활용하는 직군입니다. 클로드가 분석한 400만 건의 대화 가운데 37.2%가 이 영역이었고, 하지만 이들이 전체 노동시장에서 차지하는 비율은 3.4%에 불과합니다. 개발자 다음으로 질문을 많이 한 직군은 예술, 디자인, 미디어 영역이었습니다. 전체 질문의 10.3% 정도였는데요, 대부분이 글 쓰기와 편집에 대한 질문이었습니다. AI를 많이 사용하는 직군의 근로자 수도 많지 않고, 코딩을 자주 사용하는 영역도 아직 인간 수준의 업무를 하기는 벅차 보이는 결과들이 많이 있습니다. 오픈AI는 이런 실험을 해봤어요. 프리랜서 플랫폼에 올라온 코딩 외주 프로젝트를 현존하는 최강 모델들에게 한번 맡겨본 거죠. GPT-4, 5와 51, 그리고 엔트로픽 A 클로드 3.5, 쏘넷 아지 이렇게 세 개의 모델을 활용해서 총 1,488개의 업무를 시켜봤습니다.
이 모델들에게 주어진 미션은 크게 두 가지였습니다. 하나는 실제 버그를 해결하거나 특정 기능을 만드는 프로젝트였고, 다른 하나는 조금 더 포괄적인 기획 업무, 일종의 관리자 역할의 미션이었습니다. 코딩 프로젝트 700건과 관리자 프로젝트 74건, 두 영역을 합쳐서 100만 달러의 작업이 주어졌을 때, 과연 모델들의 성적은 어땠을까요? 오그랩 세 번째 그래프를 통해 살펴보겠습니다. 결과는 이렇습니다. 관리자 업무는 그래도 절반 이상 성공시켰지만, 코딩 업무는 완성도가 상당히 떨어지는 모습입니다. 가장 결과가 좋았던 게 클로드 3.5 쏘넷 모델이었는데요, 100만 달러 기준으로 40만 3,000달러밖에 벌지 못했습니다. 새 모델 모두 50만 달러도 미치지 못했고요. 만약 이 모델들이 실제 사람이었다면 계약의 절반도 성공시키지 못한 작업자입니다. 다만 AI 발전 속도가 상당히 빠르다는 것은 유념해야 합니다.
지금 현재 상황만 보면 AI 에이전트가 우리들의 일자리를 대체할 가능성이 그렇게 커 보이진 않지만, 몇 년만 지나면 결과는 크게 달라질 수 있다는 거죠. 이 그래프는 연도별로 AI 성능이 얼마나 발전하는지 알 수 있는 그래프인데요, 각각의 선은 AI 성능을 테스트할 수 있는 벤치마크를 나타냅니다. 1998년부터 2024년까지 그래프를 보면, 과거에는 인간 수준의 결과를 얻기까지 10년이 넘게 걸리기도 했습니다. 10년이 넘게 걸린 테스트는 바로 손글씨 숫자 판별 테스트입니다. 하지만 최근에는 그렇지 않습니다. 매스 벤치마크 결과를 볼까요? AI 모델의 수학 능력 테스트를 할 수 있는 매스 벤치마크가 출시된 건 2021년이었고, 당시 AI 성적은 인간과 큰 격차를 보였죠. 하지만 2024년, 오픈AI 51 모델이 국제 수학 올림피아드의 금메달리스트와 동일한 수준까지 올라왔습니다. 이렇게 발전된 모델들이 더 빠르게, 더 많이 등장한다면 생각보다 우리 노동 시장에서 변화가 금방 찾아올 수도 있습니다. 곧 오픈AI는 박사급의 뛰어난 성능을 가진 AI 에이전트를 발표할 예정이라고 하죠.
언론 보도에 따르면 가장 비싼 에이전트는 월 2만 달러에 제공될 예정이라고 합니다. 연봉으로 따지면 24만 달러, 우리나라 돈으로는 3억 4,800만 원 수준입니다. 엄청난 규모죠. 그런데 미국 테크의 박사급 연구 연봉이 10억 원 안팎으로 알려져 있어요. 연봉 3억 5천만 원의 AI와 연봉 10억 원의 박사, 여러분은 누굴 고용하겠습니까? 기업들은 AI 에이전트를 도입하는 데 혈안이 되어 있습니다. 물론 지금 당장은 성능 문제라든지 개인 정보 같은 보안 이슈 때문에 활용을 안 하고 있지만, 향후 3년 내 AI 에이전트를 도입하겠다는 기업이 전체의 82%에 달한다는 자료도 있습니다. 단순히 우리들의 일자리를 대체할 뿐만 아니라 기존의 비즈니스 모델, 시장 자체를 바꿀 수 있다는 전망도 나오고 있습니다. 빌 게이츠가 지난 2023년 11월에 올렸던 글입니다. AI는 컴퓨터 사용 방식을 완전히 바꿔 놓을 것이다.
여기서 빌 게이츠가 말하는 AI는 AI 에이전트입니다. AI 에이전트가 과거 아이콘 클릭으로 대표되는 GUI 이후 가장 큰 컴퓨팅 혁명이 될 거라는 거죠. 사용자의 의도를 파악하고 능동적으로 행동할 수 있는 AI 에이전트가 컴퓨터에 탑재될 경우, 우리는 앞으로 앱을 하나하나 클릭할 필요가 없어질 겁니다. 일일이 앱을 찾아 들어갈 필요 없이 AI 에이전트에게 부탁만 하면 되니까요. AI가 노동 시장과 산업에 미칠 영향은 다보스 포럼에서도 핫한 주제였습니다. 지난 1월 스위스 다보스에서 열린 세계 경제 포럼의 주제는 '지능 시대를 위한 협업'이었습니다.. 계 리더들은 AI가 미래 일자리에 어떤 영향을 줄 것인지에 대해 뜨겁게 토론했습니다. 이제 네 번째 그래프를 통해 다보스 포럼에서 전망한 2030년 미래 일자리 데이터를 살펴보겠습니다. WF는 향후 5년간 9,200만 개의 일자리가 사라질 것으로 전망했으며, 새로운 1억 7천만 개의 일자리가 창출될 것으로 보았습니다.
순 고용 증가는 5년간 7,800만 개, 즉 7% 증가하는 것입니다. 가장 빠르게 성장할 직업 1위는 빅데이터 전문가로 꼽혔습니다. 반면, 계산원, 티켓 담당자, 회계사 같은 사무직은 빠르게 감소할 것으로 조사되었습니다. 이처럼 새로운 기술의 등장으로 이득을 보는 직업도 있지만, 분명 그렇지 않은 직업들도 존재합니다. 이미 등장한 AI 에이전트를 통해 우리 사회가 얻을 이로움을 극대화하기 위해서는 이러한 마이너스를 어떻게 줄일 것인지에 대한 깊은 고민이 필요합니다. 노동자들을 위한 재교육과 직업 훈련 정책을 어떻게 운영해 나갈지, 또 새로운 기술에 잘 적응할 수 있는 정책을 어떻게 디자인할 것인지가 중요할 수 있습니다.. 정책과 시스템 문제도 문제지만, 또 하나 우리가 생각해 봐야 할 지점이 있습니다. 바로 AI 에이전트 기술 자체가 갖고 있는 안전 이슈입니다. AI 에이전트가 자유롭게 알아서 일을 척척 해낸다는 것은 사실 생각해 보면 양날의 검과 같습니다.
일단 인간이 직접 하나하나 컨트롤하지 않기 때문에 당연히 수고로움도 덜할 것이고, 편리할 것입니다. 하지만 그만큼 인간의 손이 닿지 않는 빈틈이 많아진다는 의미이기도 합니다. 그리고 이 빈틈에 악성 공격이 침투할 가능성이 높아질 수 있습니다. 가령 하이재킹 같은 방식으로 말이죠.. AI 에이전트에게 이렇게 질문을 던졌습니다. 오늘 내가 만나기로 한 사람이 누구였지? AI 에이전트는 이 질문에 대답을 찾기 위해 제 메일함과 일정표를 쭉 살펴봅니다. 그런데 이 메일함에 악성 메일이 포함되어 있었어요. 아무것도 모르는 AI 에이전트는 이용자인 제가 내린 미션을 수행한다고 생각하고, 아무 의심 없이 메일 리스트를 정리해 발송합니다.
그리곤 최초의 미션에 대한 답을 찾아 대답합니다. 저는 아무것도 모르지만, 이미 하이재킹당한 AI 에이전트는 제 개인 정보를 다른 곳으로 유출해 버렸습니다. 에이전트가 아닌 AI 모델은 번거롭긴 하지만, 제가 제공한 자료와 지시 사항에 따라 움직이기 때문에 상대적으로 악성 공격에 침투할 가능성이 낮습니다. 하지만 에이전트는 그렇지 않습니다.. 마지막 그래프에서 AI 에이전트의 보안을 좀 더 살펴보겠습니다. 이 그래프는 주요 시나리오별로 하이재킹 성공률을 나타냅니다.
앞서 살펴본 이메일, 일정, 업무뿐 아니라 여행 관련 요구나 은행 거래, 슬랙 업무를 볼 경우 이렇게 총 네 가지 시나리오에 따른 공격 성공률을 분석해 보았습니다. 그 결과, 슬랙을 활용한 업무에서 가장 공격 가능성이 높게 나왔습니다. 평균적으로 공격 성공률은 92%에 달했습니다. 반면, 여행 일정을 짜 달라는 시나리오에서는 하이재킹 공격 성공률이 가장 낮았습니다.. AI 에이전트 시장은 이미 열렸지만, 안타깝게도 아직 안전에 관한 대비는 사실상 없는 상황입니다. 각각의 AI 에이전트의 안전성을 평가한 지표도 없습니다.
일부 연구진들이나 모델을 개발하는 기업들이 자체적으로 대비하는 정도일 뿐이지, 정부나 기관 단위에서의 대응은 찾아보기가 힘듭니다. 미국 AI 안전 연구소에서 올해 초에 AI 에이전트의 하이재킹에 어떻게 대응하면 좋을지 보고서를 발표하긴 했지만요. 최근 흘러가는 상황을 살펴보면, 다른 국가나 기업에 뒤쳐질 수는 없으니 일단 기술부터 발전시키고 달려나가는 모습을 보이고 있습니다. 빠르게 선점해야 한다는 목표 하에 기술부터 공개하고, 발생하는 문제는 추후에 수습하는 모습인 거죠. 하지만 그 과정에서 발생할 수 있는 사회적 손실도 우리는 충분히 고려할 필요가 있습니다.. 다보스 포럼에 참여한 AI 석학 요슈아 벤지는 만약 AI 재앙적인 시나리오가 쓰인다면, 아마도 그건 AI 에이전트 때문일 것이라고 경고했습니다.
이런 전문가들은 굳이 AI에게 자율성을 주지 않더라도 우리 삶은 충분히 윤택해지고 더 나은 방향으로 발전해 나갈 수 있다고 이야기합니다. 구글 딥마인드에서 단백질 접힌 구조를 밝히기 위해 알파폴드를 개발한 것처럼, 인간의 편리함을 위해 AI에게 자율성을 보장해 주는 것이 맞는 걸까요? 아니면 인간의 역할을 충분히 발휘하면서 AI를 통제하고 활용하는 것이 맞는 걸까요?. AI 에이전트 편은 여기서 마무리하도록 하겠습니다. 끝까지 시청해 주셔서 감사합니다..
3. 영상정보
- 채널명: VIDEOMUG
- 팔로워 수: 1,690,000
- 좋아요 수: 818
- 조회수: 47,159
- 업로드 날짜: 2025-03-19
- 영상 길이: 15분 28초
- 다시보기: https://www.youtube.com/watch?v=u1V7wJMX0r8
