노정석: 사업적 관점에서 바라본 AI 세상 ( 지난 2년, 앞으로 2년)
https://www.youtube.com/watch?v=fX1Z-NX1w90
📌 AI 시대에 기업이 준비해야 할 핵심 역량은 무엇인가?
AI 시대에는 프로프라이어티 데이터와 이를 AI에 연결할 수 있는 탤런트가 비즈니스의 핵심 역량 이 될 것입니다. 여기서 탤런트는 코더가 아닌 비즈니스 로직과 AI 로직을 이해하여 AI 프레임워크를 만들 수 있는 능력을 의미합니다
💡 AI 시대에 기업이 준비해야 할 구체적인 내용은?모든 비즈니스를 에이전트 형태로 만들어야 합니다
AI 어시스턴트가 고객에 대한 모든 정보를 알고 의사결정까지 위임받을 것이므로, AI 어시스턴트를 설득하는 과정이 중요해집니다
브랜드나 중소기업도 AI 환경에 맞춰 준비해야 하며, 챗GPT가 알아서 해주지 않으므로 직접 인터랙션할 수 있는 시스템을 구축해야 합니다
AI 기술의 폭발적인 발전 속에서 지난 2년간의 변화를 압축적으로 분석하고, 앞으로 2년의 미래를 통찰하는 심도 깊은 콘텐츠입니다. 단순히 기술 동향을 나열하는 것을 넘어, AI 모델의 작동 원리부터 학습 방식, 그리고 거대 자본이 지배하는 AI 인프라 시장의 현황까지 기술적 이해를 돕는 실용적인 지식을 제공합니다. 특히 AI가 단순한 도구가 아닌 '인재'로서 지식 노동을 대체하고, B2C 시장에서 '개인 비서' 역할을 하며 소비 행태를 변화시킬 것이라는 예측은 미래 비즈니스 전략과 개인의 커리어 방향 설정에 구체적인 인사이트를 선사합니다. 이 콘텐츠를 통해 다가올 AI 시대에 어떻게 대비하고, 어떤 기회를 포착해야 할지 명확한 방향성을 얻을 수 있을 것입니다.
AI의 지난 2년과 앞으로의 전망: 타임라인 요약노트1. 지난 2년간의 AI 변화 요약 1.1. 챗GPT 출시 이후 AI 기술 발전의 가속화챗GPT 출시와 초기 평가:
2022년 11월 30일 챗GPT 출시 당시에는 신기하지만 아직은 부족하다는 평가가 지배적이었다.
2023년 3월, 4월 GPT-4 출시로 큰 변화가 있었으며, 2년 전 20년 동안 일어날 것이라 예측했던 일들이 단 2년 만에 모두 일어난 것으로 평가된다.
AI의 현실 적용 및 발전:
AI가 현실에서 사용 가능한 수준을 넘어, 아시아(AGI)의 탄생을 곧 볼 것 같은 느낌이 있다.
AI 기술 발전은 마치 마을 사람들이 각자의 소방호스를 들고 물을 쏴대는 것처럼 정신없이 빠르게 진행되고 있다.
2012년 이미지넷을 시작으로 이미지 인식 기술이 크게 발전했으며, 2023년에는 빅테크 회사들의 다양한 AI 모델이 출시되었다.
AI 모델의 이해:
대부분의 사람들은 AI 모델에 대해 잘 모르기 때문에, 라마 3.1을 예시로 들어 설명한다.
모델 이름, 크기(예: 1B, 3B, 11B, 90B), 옵션으로 구성되며, 이는 자동차의 제네시스(모델 이름), G80(모델 크기), 배기량, 옵션과 유사하다.
허깅페이스는 모델들이 릴리즈될 때마다 올라오는 공유 사이트와 같다.
모델의 작동 방식:
챗GPT나 클로드 같은 모델은 질문을 블랙박스에 넣으면 답이 나오는 형태로 작동한다.
많은 사람들이 모델이 대화를 기억한다고 생각하지만, 실제로는 다음 질문이 들어올 때 이전 대화 내용을 통째로 붙여서 보내는 방식이다.
이때 이전 내용을 다음 질문에 넣어주는 것을 컨텍스트(Context)라고 부른다.
모델의 내부 구조와 크기:
모델은 위아래로 단어(토큰)를 입력하는 구멍이 뚫린 블랙박스와 같으며, 그 안에 인공신경망이 들어있다.
모델의 크기(예: 3빌리언, 11빌리언)는 인공신경망 내의 전기줄(연결 가중치) 개수를 의미하며, 뉴런의 개수와는 다르다.
예를 들어, 11빌리언 모델은 110억 개의 전기줄이 들어있는 인공신경망이다.
언어 모델의 학습 과정:
인터넷의 방대한 정보에서 불필요한 부분을 제거하고 전처리하여 깔끔한 텍스트를 만든다.
이 텍스트를 모델의 입력과 출력에 연결하여 강한 주입식 교육을 시킨다.
초기에는 통계적 앵무새에 불과하다는 평가도 있었으나, 지금은 그런 평가가 사라졌다.
학습은 입력에 대한 모델의 헛소리(초기 출력)와 실제 뱉어야 할 말 사이의 오류(Error)를 계산하고, 이 오류를 줄이기 위해 모델 내 전기줄의 숫자(가중치)를 바꾸는 형태로 진행된다.
AI 발전을 위한 4가지 핵심 요소:
학습 데이터셋의 크기와 품질: 양질의 데이터가 중요하다.
모델의 크기와 구조: 모델의 규모와 설계가 성능에 영향을 미친다.
아주 빠르고 큰 컴퓨터: 대규모 연산을 위한 고성능 컴퓨팅 자원이 필수적이다.
이것들을 가능하게 하는 탤런트: 기술을 개발하고 활용할 수 있는 인재가 중요하다.
대규모 컴퓨팅 인프라의 중요성:
일론 머스크의 테슬라 AI팀은 10만 개의 H100 GPU 클러스터를 구축하여 모델 학습에 활용한다.
이러한 클러스터는 한 칸에 8개의 GPU가 들어있고, 한 렉에 64개의 GPU가 있으며, 10만 개 클러스터를 위해서는 12,500개의 유닛이 필요하다.
이러한 인프라 구축에는 최소 5조 원 이상의 비용이 들며, 이는 소수의 거대 기업만이 참여할 수 있는 게임이다.
지난 2년간의 AI 트렌드 요약:
모델 크기 및 성능 증가: 최고 성능 모델의 크기는 계속 커지고 있으며, 성능은 끝없이 증가하고 있다.
데이터셋 소진 및 고품질 데이터 증가: 인터넷의 저품질 데이터셋은 거의 소진되었고, O1과 같은 똑똑한 모델 덕분에 고품질의 추론(Reasoning) 데이터가 기하급수적으로 늘어나고 있다.
추론 능력의 암기 확장: 고차원적인 추론 역시 단순 암기의 확장으로 볼 수 있다.
작고 강력하며 저렴한 모델의 등장: 더 작고 강력하며 훨씬 저렴한 모델들이 쏟아져 나오고 있다.
AGI(범용 인공지능) 도래 시점 예측 단축: 다리오 아모데이(Anthropic CEO)는 2026~2027년, 샘 알트만(OpenAI CEO)은 1~2년 내 AGI가 나올 수 있다고 예측하며, AGI 도래 시점이 급격히 당겨졌다.
지난 2년은 한 달이 1년처럼 느껴질 정도로 급격한 변화의 시기였다.
빅테크 기업의 인프라 지배:
모델 개발과 고성능 컴퓨터 구축은 빅테크 회사들이 주도하며, 다른 기업들은 이들의 인프라를 빌려 써야 하는 상황이다.
이는 거대 산업의 주인이 몇몇 거대 자본과 타이밍을 잡은 사업자들에게 돌아간 형태이다.
API 기반 서비스의 중요성:
이제 기업들은 콘센트에 인텔리전스가 넘쳐흐르는 것처럼, API 엔드포인트에 플러그를 꽂고 다이슨과 같은 어플라이언스(응용 서비스)를 만들어야 한다.
AI 스택의 변화:
2024년 초에는 하드웨어, 오케스트레이션 소프트웨어, 모델 제조사, ML Ops, AI 앱스 등 다양한 레이어가 존재했다.
그러나 2024년 말에는 하드웨어는 엔비디아, 독점 API는 OpenAI, 구글, 클로드(Anthropic) 등 소수 기업으로 재편되었다.
특히 Anthropic의 모델(Sonnet, Opus)은 GPT-4보다 나은 품질을 보여주는 경험이 많아 개인적인 애정이 가는 회사로 언급된다.
AI 투자 및 시장 성장:
세콰이어 캐피탈과 Y Combinator의 포트폴리오에서 AI 관련 회사들이 지난 6개월간 폭발적으로 증가했으며, 이들 중 일부는 큰 성과를 내고 있다.
고객들도 AI 서비스에 더 많은 비용을 지불하는 경향이 있어 긍정적인 시장 분위기가 형성되고 있다.
AGI(범용 인공지능)의 도래와 컴퓨팅 스케일:
OpenAI의 '오라이언(O1)' 런칭 루머가 있으며, 이는 GPT-5 또는 다른 빅 프로젝트일 가능성이 높다.
지난 4년간 컴퓨팅 파워가 1만 배 증가하면서 AI 성능이 초등학생 수준에서 고등학생 수준으로 향상되었다.
이러한 추세가 유지된다면 2024년 말에는 대학원생 이상 수준의 AI가 나올 것으로 예상되며, O1 프리뷰만으로도 박사 과정 이상 수준이라는 평가가 있다.
Anthropic과 같은 회사들은 Opus(가장 큰 모델), Sonnet(중간 모델), Haiku(가장 작은 모델) 등 다양한 크기의 모델을 제공하며 성능 차이를 둔다.
AI 모델의 개념 변화: '도구'에서 '인재'로:
많은 사람들이 AI를 단순한 도구(Tool)나 인간 보조자(Human Assistant)로 생각하지만, 이는 맞지 않는 지점이 많다.
AI를 한 명의 인재(Human Replacement)로 생각하면 많은 문제들이 해결된다.
모델의 가격은 능력에 따라 임금이 다른 사람처럼, Haiku는 학사, Sonnet은 석사, Opus는 박사 학위 이상에 비유할 수 있다.
AI 인재 활용 방식:
새로운 직원을 뽑듯이 AI에게 적절한 매뉴얼(컨텍스트)과 툴을 제공하여 단순 업무를 부여할 수 있다.
업무 숙련 후에는 매뉴얼이 필요 없게 되는데, 이는 AI 학습에서 로그(Log)와 파인튜닝(Fine-tune)에 해당한다.
컨텍스트에는 구글 제미나이 모델처럼 성경 두 권 분량의 2백만 토큰을 넣을 수 있다.
AI는 단순히 말만 하는 것이 아니라, 프로그램에 연결하여 SQL 코딩, 파이썬 코드 생성 및 실행 등 다양한 작업을 수행할 수 있다.
AI 인재의 조직화와 코딩 개념의 변화:
AI를 인재로 받아들이면, 이들을 팀장(Opus)과 에이전트(Sonnet, Haiku)로 조직화할 수 있다.
OpenAI의 '수웜(Swarm)'과 같은 프레임워크를 통해 AI 에이전트들을 조직화하여 복잡한 작업을 수행할 수 있다.
코딩 개념도 변화하여, 기존의 복잡한 로직 대신 자연어 형태의 스트링으로 코드를 작성하는 방식이 등장하고 있다.
지식 노동자의 대규모 대체:
앞으로 1~2년 안에 에이전트 기반의 워크플로우 대체 회사들이 쏟아져 나오면서 엄청난 지식 노동자의 대체가 이루어질 것이다.
이커머스 데이터 표준화 사례:
한 이커머스 회사에서 150가지 제품 SKU(재고 관리 단위)가 마케팅 목적으로 1,700개 이상의 상품 코드로 엉망이 되어 데이터 분석이 불가능했다.
데이터 사이언티스트들이 수동으로 판다스 프로그램을 짜서 분석했지만 비효율적이었다.
AI를 활용하여 일주일 만에 1,500개의 상품 코드를 표준화(Normalize)할 수 있었다.
기본 프롬프트로 1차 처리 후, 코너 케이스(예외 상황)를 입코딩(프롬프트 수정)하여 2~3회 반복 학습시켜 프롬프트를 완성했다.
이후에는 SQL을 짜주는 AI를 붙여 원하는 모든 데이터를 얻을 수 있게 되었고, 두 명의 데이터 사이언티스트가 하던 작업을 AI가 대체하게 되었다.
이처럼 데이터 사이언스뿐만 아니라 마케팅, 재고 관리, 광고 등 다양한 단위 업무도 프롬프팅만 잘하면 AI가 처리할 수 있다.
기존 데이터 사이언티스트들은 더 생산적인 업무로 재배치되었다.
B2B 시장 변화 요약:
가벼운 쿼리는 Haiku와 Sonnet으로 처리 가능하지만, 복잡한 중첩 쿼리는 Opus와 같은 고성능 모델이 필요하다.
모델 성능은 계속 좋아지고 가성비는 계속 향상되어, 인텔리전스(AI 서비스 사용 비용)는 전기세처럼 0에 가까운 가격으로 수렴할 것이다.
에이전트 프레임워크가 일반화되고, 지식 노동 분야는 개별 AI 서비스로 전환될 것이다.
핵심 역량은 빌려온 인텔리전스 외에 기업 고유의 데이터(Proprietary Data)와 이를 AI와 연결할 수 있는 탤런트(비즈니스 로직과 AI 로직을 이해하는 인재)가 될 것이다.
완전한 노코드(No-code)보다는 30~40%의 코딩과 인텔리전스의 결합 형태가 더 생산적일 것으로 예상된다.
러다이트 운동과 AI 시대의 인재상:
제임스 와트의 증기기관 특허(1769년) 이후 러다이트 운동(1811년)까지 40년이 걸렸듯이, AI로 인한 새로운 지식 노동자 러다이트 운동이 언제 일어날지 관심사이다.
과거에는 AI의 능력이 사용하는 사람의 능력을 뛰어넘을 수 없으므로 더 많은 공부가 필요하다고 했으나, 최근에는 이 생각이 바뀔 수도 있다는 의견이 제시되었다.
B2C 시장의 핵심 변화: 휴먼 리플레이스먼트:
B2B 시장의 변화가 '휴먼 리플레이스먼트(Human Replacement)'로 요약된다면, B2C 시장에서는 어떤 변화가 가장 중요할지 주목해야 한다.
미디어 산업의 발전과 소비 행태 변화:
IT 회사도 미디어 회사로 해석해야 하며, 미디어 산업의 발전은 소비 행태의 변화와 직접적으로 연결된다.
매일의 소비 결정에 가장 큰 영향을 미치는 채널은 구글, 유튜브, 인스타그램, 틱톡 등 미디어이다.
기술 발전은 중앙에 집중된 정보 권력을 끊임없이 소비자에게 파편화하고 민주화시키는 방향으로 진행되어 왔다.
게이트키퍼의 변화: 검색에서 AI 어시스턴트로:
컨슈머 인터넷 사업에서 게이트키퍼(Gatekeeper)는 유저의 판단을 제어하는 가장 가까운 미디어이다.
기존에는 구글, 넷플릭스, 우버, 아마존 등 각 섹터에 게이트키퍼가 있었고, 그중 가장 큰 것은 구글의 검색이었다.
이 게이트키퍼 포지션이 단순 검색에서 어시스턴트 레이어로 바뀌어 나갈 것이다.
게이트키퍼를 우회(Bypass)할 수 있는 정도가 사업자의 마진율을 결정한다.
개인의 구글 검색량이 급감하고 클로드와 같은 AI 어시스턴트를 통해 정보를 얻는 경향이 나타나고 있다.
메인 어시스턴트(챗GPT, 제미나이, 그록 등) 간의 경쟁이 심화될 것이며, 샘 알트만이 chat.com을 구매한 것도 이러한 맥락으로 해석된다.
기존 검색과 버티컬 포털이 가진 게이트키퍼 포지션을 AI 비서들이 차지하게 될 것이다.
AI 비서 시대의 광고 및 비즈니스 전략:
사용자는 AI 비서가 중립적이기보다는 자신의 이익을 최대한 대변해주기를 원할 것이다.
이는 개인화, 타겟팅, 최저가 등의 형태로 나타날 수 있다.
사업자 입장에서는 고객을 설득하기 전에 고객 앞에 있는 AI 어시스턴트를 먼저 설득해야 하는 과정이 생긴다.
이 AI 어시스턴트는 어리숙한 호갱이 아니라 슈퍼 인텔리전스이기 때문에, 이들을 넘어서지 않고는 메시지를 전달할 수 없게 된다.
미래에는 AI 어시스턴트끼리 자연어, JSON, 또는 기계어 등으로 소통하며 대규모 거래가 이루어질 것이다.
예를 들어, 식당 예약 시 AI 에이전트가 수백 개의 가게에 연락하여 고객에게 가장 좋은 제안을 받아 객관식으로 제공할 수 있다.
브랜드나 중소기업은 이러한 환경에 대비하여 AI 어시스턴트가 자사 비즈니스에 대해 잘 알 수 있도록 준비해야 한다.
이는 회사 비즈니스를 에이전트 형태로 만드는 것을 의미한다.
미래 대비의 중요성:
이러한 변화는 당장 내일 일어나지는 않겠지만, 시간의 차이만 있을 뿐 반드시 일어날 일이다.
너무 빨리 준비하다 망하는 경우도 있지만, 일찍 가서 버티면 기회를 잡을 수 있고, 그렇지 않으면 항상 놓치게 된다.
따라서 타이밍을 맞추는 것은 불가능하므로, 이 시대가 올 것이라는 확신이 있다면 미리 준비하는 것이 유일한 해법이다.
AI 시대의 핵심 메시지:
자신의 회사에 맞는 비즈니스 로직에 해당하는 에이전트들을 준비해야 한다.
지금은 논의할 때가 아니라 구축(Building)할 때이다.
내년은 모두 에이전트의 해가 될 것이다.
Comments
Post a Comment