AI, 새로운 전기가 되다: 앤드류 응 교수가 말하는 에이전틱 워크플로우의 혁명적 잠재력

 

앤드류 응 스탠퍼드대 교수가 UKF 82 스타트업 서밋에서 발표한 내용은 우리에게 AI 기술의 미래에 대한 놀라운 통찰력을 제공합니다. "AI는 이 시대의 새로운 전기입니다"라는 그의 말처럼, 인공지능이 전기처럼 모든 산업을 변화시킬 범용 기술로 자리잡을 것이라는 비전은 많은 개발자와 기업가들에게 영감을 주고 있습니다. 특히 그가 강조한 에이전틱 워크플로우의 개념은 AI 기술이 어떻게 진화하고 있는지, 그리고 앞으로 어떤 혁신적 가능성을 가지고 있는지 보여주는 중요한 지표입니다. 이 글에서는 앤드류 응 교수의 핵심 메시지를 바탕으로 AI 기술의 현재와 미래, 그리고 이를 통한 비즈니스 기회에 대해 살펴보겠습니다.

AI, 새로운 범용 기술의 탄생

"인공지능(AI)은 이 시대의 새로운 전기(electricity)입니다." 앤드류 응 교수는 UKF 82 스타트업 서밋 행사 기조연설에서 이렇게 강조했습니다. 전기가 19세기에 발명되어 거의 모든 산업에 혁명적인 변화를 가져온 것처럼, AI 역시 우리 사회와 경제를 근본적으로 변화시킬 범용 기술이라는 것이죠.

앤드류 응 교수는 현재의 AI 산업을 1960년대 초기 컴퓨터 산업의 태동기와 비슷하다고 설명합니다. 그리고 진정한 기회는 AI 모델이나 인프라 자체가 아니라, 그 위에서 작동하는 애플리케이션에 있다고 지적합니다. "발전소 건설은 훌륭한 사업이지만, 가전제품 혹은 전기로 구동되는 다른 모든 사업만큼 좋지는 않다"며 AI 비즈니스도 마찬가지 경로를 따를 것이라고 예측했습니다.

이러한 관점은 스타트업과 기업가들에게 중요한 시사점을 제공합니다. 지금 당장은 OpenAI, Anthropic과 같은 기초 모델 개발 회사들이 주목받고 있지만, 장기적으로는 이러한 기초 기술을 활용해 실제 문제를 해결하는 애플리케이션을 개발하는 기업들이 더 큰 가치를 창출할 수 있다는 것입니다.

Andrew Ng Explores The Rise Of AI Agents And Agentic Reasoning | BUILD 2024 Keynote

생성형 AI가 가속화하는 혁신

앤드류 응 교수가 주목하는 AI 기술의 또 다른 중요한 측면은 생성형 AI가 제품 개발과 혁신 프로세스를 획기적으로 가속화한다는 점입니다. 특히 프로토타입 제작 과정이 크게 효율화될 것으로 예측합니다.

"프로토타입을 만드는 비용이 매우 저렴해집니다. AI는 모든 것을 개선하고 있지만, 프로토타이핑 단계에서는 완전히 판도를 바꿀 수 있는 기술입니다"라고 응 교수는 설명합니다.

과거에는 감정 분석과 같은 기계 학습 모델을 개발하는 데 6개월에서 1년이 소요되었지만, 생성형 AI의 발전으로 이제는 단 10일 이내에 동일한 결과를 얻을 수 있게 되었습니다. 이는 기업들이 매주 새로운 아이디어를 실험하고 검증할 수 있는 환경을 조성하며, 혁신의 속도를 크게 높일 수 있음을 의미합니다.

이러한 개발 속도의 향상은 특히 스타트업에게 큰 기회를 제공합니다. 링크드인에서 앤드류 응 교수는 "스타트업의 성패는 실행 속도에 달려있다"고 강조하며, 생성형 AI가 과거에는 몇 달이 걸리던 AI 역량을 단 며칠 또는 몇 시간 만에 구축할 수 있게 해준다고 설명했습니다5.

에이전틱 워크플로우: AI의 새로운 패러다임

앤드류 응 교수가 가장 흥미롭게 생각하는 기술적 트렌드 중 하나는 '에이전틱 AI 워크플로우(Agentic AI Workflow)'입니다. 이는 여러 AI 에이전트를 효과적으로 조율하고, 반복적인 과정을 통해 더 나은 결과물을 만들어내는 방식을 의미합니다.

현재 대부분의 AI 사용 방식은 '제로샷(Zero-shot)' 방식입니다. 이는 AI에게 한 번에 작업을 완료하도록 요청하는 방식으로, 응 교수는 이를 "누군가에게 백스페이스 없이 바로 타이핑하고 고품질의 에세이를 기대하는 것"에 비유합니다.

반면 에이전틱 워크플로우는 AI에게 여러 단계의 반복 작업을 수행하도록 하여 결과물의 품질을 높이는 방식입니다. 예를 들어 문서 작성 과정에서 다음과 같은 단계를 거칠 수 있습니다:

1. 개요 계획하기
2. 추가 정보 수집을 위한 웹 검색 결정하기
3. 초안 작성하기
4. 초고를 검토하고 부적절한 부분 찾아내기
5. 발견된 약점을 고려해 초고 수정하기
6. 필요시 이 과정 반복하기

이러한 반복적인 과정은 인간 작가들이 좋은 글을 쓰기 위해 필수적으로 거치는 과정과 유사합니다. AI에 이 같은 워크플로우를 적용하면 한 번에 작성하는 것보다 훨씬 더 나은 결과를 얻을 수 있습니다.

실제로 코딩 벤치마크인 HumanEval에서 GPT-3.5의 정답률은 제로샷 방식으로 48.1%였지만, 에이전트 워크플로우를 적용하면 95.1%까지 향상되었습니다9. 이는 에이전틱 워크플로우가 AI의 성능을 획기적으로 향상시킬 수 있음을 보여줍니다.

에이전틱 워크플로우의 4가지 디자인 패턴

앤드류 응 교수는 에이전틱 워크플로우를 구현하기 위한 네 가지 핵심 디자인 패턴을 제시합니다89:

1. 반성(Reflection)

AI가 자신의 작업 결과를 검토하고 개선하는 과정입니다17. 예를 들어, AI가 작성한 코드를 다시 검토하고 오류나 개선점을 찾아 수정하는 것입니다. 링크드인 포스트에서 앤드류 응은 이 패턴을 적용하면 "놀라운 성능 향상"을 볼 수 있다고 언급했습니다17.

반성 패턴은 다음과 같은 과정을 따릅니다17:

1. AI에게 코드나 텍스트 생성 요청
2. 생성된 결과물에 대한 비판적 검토 요청
3. 피드백을 기반으로 재작성 요청
4. 필요시 이 과정 반복

2. 도구 사용(Tool Use)

웹 검색, 코드 실행 등 외부 도구를 활용하여 정보를 수집하거나 데이터를 처리하는 패턴입니다8. AI가 필요한 정보를 찾기 위해 웹 검색을 하거나, 코드를 실행하여 결과를 확인하는 방식으로 작업의 정확도를 높이는 방법입니다.

3. 계획(Planning)

복잡한 문제를 해결하기 위해 단계적 계획을 수립하고 실행하는 패턴입니다8. AI가 먼저 어떤 단계를 밟을지 계획을 세우고, 그 계획에 따라 작업을 수행함으로써 더 체계적이고 효과적인 결과물을 만들어냅니다.

4. 다중 에이전트 협업(Multi-Agent Collaboration)

여러 AI 에이전트가 작업을 분담하고 협력하여 단일 에이전트보다 더 나은 해결책을 찾는 패턴입니다9. 예를 들어, 하나의 AI는 코드를 작성하고 다른 AI는 그 코드를 검토하는 식으로 역할을 나누어 더 효과적인 결과를 얻을 수 있습니다17.

앤드류 응은 링크드인에서 이러한 패턴이 "AI 에이전틱 워크플로우에서 중요한 발전을 이끌 것"이라고 강조했습니다17.

AI를 활용한 비주얼 작업의 미래

앤드류 응 교수는 멀티모달 모델 기반 에이전트의 발전에 대해서도 언급했습니다. 이러한 모델들은 텍스트뿐만 아니라 이미지나 비디오와 같은 시각적 데이터도 처리할 수 있습니다.

예를 들어, 축구 경기에서 선수 수를 자동으로 세는 기능이나, 비디오 데이터에서 특정 조건에 맞는 장면을 식별하고 메타데이터를 생성하는 작업이 가능해집니다. 이는 비주얼 데이터를 인덱싱하고 유사성을 기반으로 검색할 수 있게 하여, 응용 프로그램 개발의 진입 장벽을 낮추고 새로운 사용자 경험을 가능하게 합니다.

앤드류 응 교수는 스노우플레이크 서밋에서 이러한 비주얼 AI 에이전트 데모를 보여주며, 에이전틱 워크플로우가 시각 데이터 처리 영역에서도 큰 혁신을 가져올 것이라고 예측했습니다12.

에이전틱 AI의 미래와 비즈니스 기회

가트너는 2029년까지 에이전틱 AI가 고객 서비스 문제의 80%를 자동으로 해결할 수 있을 것으로 예측했습니다. 이는 기업들의 운영 비용을 30% 감소시킬 것으로 예상됩니다.

에이전틱 AI는 단순히 정보를 제공하는 것을 넘어, 고객을 대신해 멤버십을 취소하고 웹사이트를 탐색하며 최적의 배송료를 협상하는 등 실질적인 작업을 수행할 수 있을 것입니다.

이러한 변화에 대비하기 위해 기업들은:

1. 자동화된 상호작용에 대비하고
2. AI 기반 서비스 볼륨을 처리할 수 있도록 모델을 업데이트하며
3. AI 상호작용 정책을 설정해야 합니다1

앤드류 응 교수는 UKF 82 스타트업 서밋에서 "Move fast and be responsible"(빠르게 움직이되 책임감을 가져라)라는 메시지를 강조했습니다6. AI가 단순히 기술적 진보가 아니라 에너지, 지속가능성, 사회적 균형을 아우르는 거대한 질문의 일부가 되었다는 것입니다.

결론: AI 혁명 속 우리의 기회

앤드류 응 교수가 제시한 AI의 미래는 흥미롭고 가능성이 큽니다. AI가 전기처럼 범용 기술이 되어 다양한 애플리케이션을 가능하게 하고, 에이전틱 워크플로우를 통해 AI의 성능이 비약적으로 향상되며, 멀티모달 모델의 발전으로 시각적 데이터 처리가 혁신될 것입니다.

이러한 변화 속에서 기업과 개발자들은 AI 애플리케이션 개발에 주목하고, 에이전틱 워크플로우를 활용하여 AI의 성능을 최대화하며, 다양한 데이터 형식을 처리할 수 있는 역량을 갖추어야 할 것입니다.

특히 스타트업 창업자들에게는 AI 기반 애플리케이션 개발이 큰 기회가 될 수 있습니다. 기초 모델은 이미 강력한 기업들이 선점하고 있지만, 특정 산업과 문제에 특화된 AI 애플리케이션은 아직 많은 기회가 열려 있습니다.

여러분은 어떤 분야에서 AI를 활용한 혁신적인 애플리케이션을 만들어볼 수 있을까요? 에이전틱 워크플로우의 네 가지 디자인 패턴 중 어떤 것이 여러분의 비즈니스에 가장 큰 영향을 미칠 것 같나요? AI 혁명의 시대, 우리 모두 새로운 가능성을 함께 탐색해 봅시다!

#AI #인공지능 #앤드류응 #에이전틱워크플로우 #생성형AI #범용기술 #멀티모달AI #프로토타입 #혁신 #미래기술 #스타트업 #UKF82 #AIAgent #머신러닝 #기술혁명

AI, Becoming the New Electricity: The Revolutionary Potential of Agentic Workflows According to Professor Andrew Ng

Professor Andrew Ng's presentation at the UKF 82 Startup Summit provides us with remarkable insights into the future of AI technology. As he stated, "AI is the new electricity of this era," his vision of artificial intelligence becoming a general-purpose technology like electricity that will transform all industries is inspiring many developers and entrepreneurs. In particular, his emphasis on the concept of agentic workflows is an important indicator of how AI technology is evolving and what revolutionary possibilities it holds for the future. In this article, we'll explore the present and future of AI technology based on Professor Andrew Ng's key messages, and the business opportunities it presents.

AI: The Birth of a New General-Purpose Technology

"Artificial intelligence (AI) is the new electricity of this era." Professor Andrew Ng emphasized this during his keynote speech at the UKF 82 Startup Summit event. Just as electricity was invented in the 19th century and brought revolutionary changes to almost all industries, AI is a general-purpose technology that will fundamentally transform our society and economy.

Professor Andrew Ng explains that the current AI industry is similar to the early days of the computer industry in the 1960s. And he points out that the real opportunity lies not in AI models or infrastructure themselves, but in the applications that operate on top of them. "Building power plants is a great business, but not as good as appliances or all other businesses powered by electricity," predicting that AI businesses will follow a similar path.

This perspective provides important implications for startups and entrepreneurs. While companies developing foundation models like OpenAI and Anthropic are currently receiving attention, in the long run, companies that develop applications that use these basic technologies to solve real problems can create greater value.

Innovation Accelerated by Generative AI

Another important aspect of AI technology that Professor Andrew Ng focuses on is that generative AI dramatically accelerates product development and innovation processes. In particular, he predicts that the prototyping process will be greatly streamlined.

"The cost of making prototypes becomes very affordable. AI is improving everything, but in the prototyping stage, it's a technology that can completely change the game," explains Professor Ng.

In the past, developing machine learning models such as sentiment analysis took 6 months to a year, but with the advancement of generative AI, the same results can now be achieved within just 10 days. This means that companies can create an environment where they can experiment with and validate new ideas every week, greatly increasing the speed of innovation.

This improvement in development speed provides a great opportunity especially for startups. On LinkedIn, Professor Andrew Ng emphasized that "startups live or die by their ability to execute at speed," explaining that generative AI enables building AI capabilities in days or hours that used to take months5.

Agentic Workflows: A New Paradigm for AI

One of the most interesting technological trends for Professor Andrew Ng is 'Agentic AI Workflows.' This refers to effectively coordinating multiple AI agents and creating better results through a repetitive process.

The current way most people use AI is in a 'zero-shot' manner. This is a method of requesting AI to complete a task in one go, which Professor Ng compares to "asking someone to type directly without a backspace and expecting a high-quality essay".

In contrast, agentic workflows are a method of improving the quality of the output by having AI perform multiple stages of repetitive tasks. For example, in the process of writing a document, you might go through the following steps1:

1. Plan an outline
2. Decide what web searches are needed to gather more information
3. Write a draft
4. Review the first draft and find inappropriate parts
5. Revise the draft considering the weaknesses found
6. Repeat this process if necessary

This repetitive process is similar to the essential process that human writers go through to write good text. Applying this workflow to AI can yield much better results than writing at once.

In fact, in the HumanEval coding benchmark, GPT-3.5's accuracy rate was 48.1% with the zero-shot method, but when applying the agent workflow, it improved to 95.1%9. This shows that agentic workflows can dramatically improve AI performance.

Four Design Patterns of Agentic Workflows

Professor Andrew Ng presents four core design patterns for implementing agentic workflows89:

1. Reflection

This is the process where AI reviews and improves its work results17. For example, reviewing code written by AI, finding errors or improvements, and making corrections. In a LinkedIn post, Andrew Ng mentioned that applying this pattern can lead to "surprising performance gains"17.

The reflection pattern follows this process17:

1. Request AI to generate code or text
2. Request critical review of the generated output
3. Request rewriting based on feedback
4. Repeat this process if necessary

2. Tool Use

This is a pattern of collecting information or processing data using external tools such as web searches and code execution8. It's a method of increasing the accuracy of work by having AI search the web for necessary information or execute code to check results.

3. Planning

This is a pattern of establishing and executing step-by-step plans to solve complex problems8. AI first plans what steps to take and then performs tasks according to that plan, creating more systematic and effective results.

4. Multi-Agent Collaboration

This is a pattern where multiple AI agents share and collaborate on tasks to find better solutions than a single agent9. For example, one AI writes code and another AI reviews that code, dividing roles to achieve more effective results17.

Andrew Ng emphasized on LinkedIn that these patterns "will drive significant progress in AI agentic workflows"17.

The Future of Visual Tasks Using AI

Professor Andrew Ng also mentioned the development of multi-modal model-based agents. These models can process not only text but also visual data such as images and videos.

For example, features like automatically counting the number of players in a soccer game, or identifying scenes in video data that meet specific conditions and generating metadata become possible. This enables indexing visual data and searching based on similarity, lowering the barrier to application development and enabling new user experiences.

Professor Andrew Ng showed a visual AI agent demo at the Snowflake Summit, predicting that agentic workflows would bring great innovation in the field of visual data processing as well12.

The Future and Business Opportunities of Agentic AI

Gartner predicts that by 2029, agentic AI will be able to automatically solve 80% of customer service problems. This is expected to reduce companies' operating costs by 30%.

Agentic AI will go beyond simply providing information and be able to perform practical tasks such as canceling memberships on behalf of customers, navigating websites, and negotiating optimal shipping fees.

To prepare for these changes, companies should:

1. Prepare for automated interactions
2. Update models to handle AI-based service volumes
3. Establish AI interaction policies1

Professor Andrew Ng emphasized the message "Move fast and be responsible" at the UKF 82 Startup Summit6. AI has become not just a technological advancement but part of a huge question encompassing energy, sustainability, and social balance.

Conclusion: Our Opportunities in the AI Revolution

The future of AI that Professor Andrew Ng presents is interesting and has great potential. AI will become a general-purpose technology like electricity, enabling various applications, with agentic workflows dramatically improving AI performance, and the development of multi-modal models innovating visual data processing.

In these changes, companies and developers should focus on AI application development, maximize AI performance using agentic workflows, and build capabilities to process various data formats.

For startup founders in particular, developing AI-based applications can be a great opportunity. While foundation models are already dominated by powerful companies, AI applications specialized for specific industries and problems still have many opportunities open.

In which field could you create innovative applications using AI? Which of the four design patterns of agentic workflows do you think will have the biggest impact on your business? In the era of the AI revolution, let's explore new possibilities together!

#AI #ArtificialIntelligence #AndrewNg #AgenticWorkflow #GenerativeAI #GeneralPurposeTechnology #MultimodalAI #Prototype #Innovation #FutureTechnology #Startup #UKF82 #AIAgent #MachineLearning #TechnologyRevolution