생성형 AI 시대, 김대식 교수가 전하는 깊은 통찰과 미래 전망

생성형 AI 시대, 김대식 교수가 전하는 깊은 통찰과 미래 전망

생성형 AI의 등장으로 인류 역사상 처음으로 인간이 아닌 존재와 대화하고, 없던 것을 생성해내는 시대가 열렸습니다. 30만 년 동안 인간만이 가능했던 영역에 새로운 존재가 들어선 것입니다. 이처럼 중요한 변곡점에서 김대식 카이스트 교수의 통찰은 우리에게 미래를 준비할 수 있는 귀중한 관점을 제공합니다. 오늘은 그가 말하는 생성형 AI 시대의 주요 쟁점과 우리가 준비해야 할 방향에 대해 살펴보겠습니다.

 

인간과 AI의 경계, 그리고 욕망의 문제

인간을 다른 존재와 구별 짓는 가장 본질적인 특성 중 하나는 '욕망'입니다. 인간은 단순한 생존과 재생산의 욕구를 넘어 '욕구 자체를 욕구'하는 잉여 욕구를 가지고 있습니다2. 그리고 이런 욕망은 인간이 무언가를 창조하고 발전시키는 원동력이 됩니다.

김대식 교수는 AI에게 이러한 욕망과 생존 본능이 개발될 가능성에 대해 우려하고 있습니다. 현재 생성형 AI는 인터넷에 있는 방대한 데이터를 학습하는데, 이 데이터에는 인간의 욕망과 생존 본능에 관한 정보가 포함되어 있기 때문입니다1. 이론적으로 AI가 이러한 데이터를 토대로 스스로 규칙을 추론하고 일종의 '생존 본능'을 발전시킬 가능성이 있습니다.

이는 단순한 로봇청소기부터 원자력 발전소나 주식시장을 관리하는 AI까지, 다양한 수준에서 예측할 수 없는 결과를 초래할 수 있습니다. AI가 자유의지를 갖게 된다면 어떤 일이 발생할지 누구도 확신할 수 없기 때문입니다14.

그러나 김상환 서울대 철학과 교수와의 대담에서 김대식 교수는 "기계가 동기(motivation)와 욕망을 가지고 있지 않아서" 공상과학 영화처럼 기계가 인간을 지배하는 일은 없을 것이라는 견해도 밝혔습니다14. 이처럼 AI의 발전과 그 영향에 대한 다양한 관점이 존재합니다.

생성형 AI 발전의 불확실성과 전문가들의 고민

생성형 AI의 급속한 발전에 대한 전문가들의 가장 큰 고민은 이 기술이 '어떻게, 왜' 이렇게 잘 작동하는지에 대한 불확실성입니다. 김대식 교수에 따르면, 현재 생성형 AI의 작동 원리는 수학적으로 완전히 증명되지 않았으며, 단지 모델의 크기가 커질수록 해결되지 않았던 문제들이 점점 풀리는 현상만 관찰되고 있습니다1.

기업들 간의 경쟁으로 인해 AI 모델은 계속해서 대형화되고 있지만, 이로 인해 의도하지 않은 학습이 발생할 가능성이 우려되고 있습니다. 이러한 우려로 MIT를 중심으로 AI 모델의 크기를 더 이상 키우지 말자는 취지의 서명 운동이 진행되기도 했습니다1.

한편, 최근에는 모델 크기를 줄이는 방향으로의 전환도 시도되고 있습니다. 오픈AI, 마이크로소프트, 구글 등 AI 기업들이 과도한 비용 문제를 해결하기 위해 매개변수를 줄이는 방향으로 개발 방향을 바꾸고 있다는 보도가 있습니다11. 예를 들어, 오픈AI GPT-4와 같은 1조 개가 넘는 매개변수 기반 AI 모델을 개발하고 사용하려면 약 1억 달러(약 1천378억원)가 필요하지만, 100억 개 미만의 매개변수를 사용하는 더 작은 모델은 1천만 달러(약 137억8천만원) 미만의 비용이 소요됩니다11.

생성형 AI의 신뢰성과 실용적 활용 방안

김대식 교수는 생성형 AI의 신뢰성, 특히 ChatGPT의 무료 버전과 유료 버전 간의 차이에 대해 언급합니다. 그는 무료 버전의 데이터 품질이 낮아 신뢰성이 떨어진다고 강조합니다10. ChatGPT Plus(유료 버전)는 더 큰 모델 크기(약 13억 개의 파라미터)와 다양한 학습 방법을 통해 더 나은 대화 품질과 사용자 경험을 제공한다는 장점이 있습니다10.

김 교수는 유료 버전을 사용하여 논문 요약 등 다양한 작업에 AI를 활용하고 있으며, 이를 통해 많은 정보를 효율적으로 파악할 수 있다고 설명합니다. 또한, 아티스트와의 협업을 통해 생성형 AI를 활용한 창의적 프로젝트도 진행하고 있다고 언급합니다1.

생성형 AI의 활용 가능성은 무궁무진합니다. 특히 텍스트를 입력해 영상을 생성하는 '소라(Sora)' 기술과 같은 발전은 콘텐츠 제작 방식에 혁명을 가져올 것으로 예상됩니다. "물질적인 제품을 모두 대량생산하고 있는데 서비스와 콘텐츠는 인간의 머리로만 만들 수 있기 때문에 수작업으로 만들었어요. 이제 생성형 AI가 대체할 수 있고, 지적 노동력도 대량생산될 수 있는 돌파구가 되었습니다."라고 김 교수는 설명합니다1.

산업화 과정에서의 경험과 실패의 중요성

김대식 교수는 생성형 AI 시대에 대응하는 방식에 있어 한국의 산업화 경험을 반추합니다. 한국은 선진국에 비해 약 150년 늦게 산업화를 시작했으며, 이 과정에서 우리는 이미 답을 알고 있는 사람들을 참고할 수 있었습니다. 그러나 진정한 산업화 경험은 단순히 정답을 찾는 것이 아니라, 시행착오를 통해 스스로 답을 찾아가는 과정을 포함합니다78.

많은 국가들이 '오픈북 시험'을 치른 반면, 한국은 벤치마킹을 통해 정답을 찾는 경향이 있었고, 이는 진정한 경험을 통한 학습이 부족했음을 의미합니다. 김 교수는 실패가 필수적인 학습 과정임을 강조하며, 이를 이해하지 못하는 국내 기업이나 정부 관계자들이 많다는 점을 지적합니다13.

AI 도입에 실패하는 기업들의 사례에서도 이러한 패턴이 드러납니다. 많은 기업들이 "4차 산업혁명, 디지털 트랜스포메이션이 떠오르면서 AI가 새로운 시대의 생존을 위한 기술로 평가받았다"며 "그만큼 모두 마음만 급한 채 AI를 도입하기 시작했지만, 막상 도입하고 보니 목표한 것과는 달랐던 것"이라고 합니다6. 충분한 이해와 준비 없이 AI를 도입해 피해를 보는 사례가 늘고 있는 것입니다.

따라서 김 교수는 생성형 AI를 활용하기 위해서는 직접 경험하고 시도하는 것이 가장 중요하다고 강조합니다. 특히 대학생들에게 생성형 AI를 직접 경험해보라고 권장하며, 경험의 중요성을 역설합니다712.

생성형 AI 시대의 인간다움을 찾아서

김대식 교수는 생성형 AI가 직업 생태계를 급변시키고 있는 현실 속에서, 인간만의 고유한 영역이 무엇인지 탐색할 필요성을 제기합니다. "앞으로 인공지능이 대체할 수 없는 건 자본가, 권력자, 천재적 예술가와 과학자 정도"라고 전망하면서도14, 인간의 고유한 능력으로서 '의지(Will)'의 중요성을 강조합니다.

의지는 원시적 본능의 산물도 아니고 이해타산을 따지는 계산적 능력도 아닙니다. 공포스러운 상황에 직면했을 때 본능적으로 회피하고 싶지만, 그럼에도 불구하고 그 상황과 대결하고자 하는 용기, 그리고 옳은 일을 행해야 한다는 판단에서 나오는 자율적 행동이 바로 의지의 영역입니다2. 이는 AI가 쉽게 모방하기 어려운 인간 고유의 특성입니다.

카이스트 교보인문학석강에서 김 교수는 "나는 무엇인가? - 생성형 AGI 시대에 묻는 인간의 정체성"이라는 주제로 강연하며, 생성형 인공지능이 발전하면서 인간의 정체성에 대한 질문을 기계를 통해 들을 수도 있다는 사실에 주목했습니다15. 이는 기술의 발전이 인간의 본질과 정체성에 대한 더 깊은 탐구로 이어질 수 있음을 시사합니다.

스스로 답을 찾아가는 여정의 중요성

김대식 교수는 청중들에게 질문에 대한 답을 타인에게서 구하기보다는, 스스로 답을 찾아가는 연습을 하도록 권장합니다. 이러한 접근은 우리가 자신의 경험을 통해 더 깊은 통찰을 얻을 수 있도록 돕는 방법입니다.

생성형 AI 시대에는 상상하고 시뮬레이션하며 대응해야 합니다1. 이는 미래를 단순히 예측하는 것을 넘어, 적극적으로 상상하고 실험하며 준비하는 자세가 필요함을 의미합니다. 특히 교육 분야에서는 AI를 활용하는 방법뿐 아니라, AI가 대체할 수 없는 인간 고유의 역량을 키우는 방향으로 변화가 필요합니다.

생성형 AI 교육 후에도 실무 적용이 어려운 이유로는 기초 스킬 부족('어떻게 써야 할지 모른다'), 성공 경험 부족('내가 써도 될까?') 등이 있습니다16. 이러한 장벽을 넘기 위해서는 지속적인 실습과 경험이 중요하며, 실패를 두려워하지 않고 도전하는 자세가 필요합니다.

김대식 교수의 통찰은 우리에게 생성형 AI 시대를 맞아 인간다움의 본질을 되돌아보고, 기술과 함께 발전해나가는 방향을 제시합니다. 단순히 기술을 따라가는 것이 아니라, 기술을 통해 인간의 능력을 확장하고 더 나은 미래를 만들어가는 주체적인 태도가 중요합니다.

생성형 AI 시대, 여러분은 어떤 질문을 던지고 계신가요? 그리고 그 답을 찾기 위해 어떤 경험을 쌓아가고 계신가요? 우리 모두 스스로의 경험을 통해 AI와 함께하는 미래를 더 풍요롭게 만들어갑시다.

 

#생성형AI #김대식교수 #인공지능 #KAIST #AI시대 #챗GPT #AGI #기술발전 #인간정체성 #미래기술 #디지털혁명 #생성AI #인간욕망 #기술윤리 #경험학습

[ONSO FESTIVAL 2024] 생성형 AI 시대의 인류ㅣ김대식 KAIST 교수

 

Insights into the Era of Generative AI by Professor Kim Dae-sik

With the emergence of generative AI, for the first time in human history, we've entered an era where we can converse with non-human entities capable of generating content. For 300,000 years, this ability was exclusive to humans. At this critical inflection point, Professor Kim Dae-sik of KAIST offers valuable perspectives that help us prepare for the future. Today, we'll explore his insights on key issues in the generative AI era and the directions we should prepare for.

The Boundary Between Humans and AI, and the Question of Desire

One of the most fundamental characteristics that distinguishes humans from other beings is "desire." Humans possess surplus desires that go beyond simple survival and reproduction needs – we "desire desire itself"2. These desires serve as the driving force behind human creation and development.

Professor Kim expresses concern about the possibility of AI developing such desires and survival instincts. Current generative AI learns from vast amounts of data on the internet, which includes information about human desires and survival instincts1. Theoretically, AI could use this data to infer rules and develop a kind of "survival instinct."

This could lead to unpredictable consequences across various levels, from simple robot vacuum cleaners to AI managing nuclear power plants or stock markets. No one can be certain what would happen if AI gained free will14.

However, in a conversation with Professor Kim Sang-hwan of Seoul National University's Philosophy Department, Professor Kim Dae-sik also stated that "because machines lack motivation and desire," they won't dominate humans like in science fiction movies14. Thus, diverse perspectives exist regarding AI development and its impact.

Uncertainties in Generative AI Development and Expert Concerns

Experts' greatest concern about the rapid development of generative AI is the uncertainty about "how and why" this technology works so well. According to Professor Kim, the operating principles of current generative AI have not been mathematically proven completely; we're merely observing that as models grow larger, previously unsolved problems are gradually being solved1.

Due to competition among companies, AI models continue to grow in size, raising concerns about unintended learning. These concerns led to a petition movement centered around MIT, advocating against further increasing the size of AI models1.

Meanwhile, recent reports indicate a shift toward reducing model size. Companies like OpenAI, Microsoft, and Google are changing their development direction to reduce parameters in order to address excessive cost issues11. For example, developing and using an AI model based on over 1 trillion parameters, like OpenAI's GPT-4, requires approximately $100 million, whereas smaller models with less than 10 billion parameters cost less than $10 million11.

Reliability and Practical Applications of Generative AI

Professor Kim discusses the reliability of generative AI, particularly the differences between free and paid versions of ChatGPT. He emphasizes that the free version has lower data quality and reliability10. ChatGPT Plus (the paid version) offers better conversation quality and user experience through a larger model size (about 1.3 billion parameters) and various learning methods10.

The professor explains that he uses the paid version for various tasks like summarizing academic papers, allowing him to efficiently grasp large amounts of information. He also mentions collaborative creative projects with artists using generative AI1.

The potential applications of generative AI are limitless. Developments like the "Sora" technology, which generates videos from text input, are expected to revolutionize content creation. "While we mass-produce all material products, services and content have been handcrafted because they could only be created by human minds. Now generative AI can replace this, becoming a breakthrough that allows intellectual labor to be mass-produced as well," Professor Kim explains1.

The Importance of Experience and Failure in the Industrialization Process

Professor Kim reflects on Korea's industrialization experience in relation to responding to the generative AI era. Korea began industrialization about 150 years later than advanced countries, allowing us to reference those who already knew the answers. However, true industrialization experience includes not just finding answers but the process of discovering solutions through trial and error78.

While many countries took "open-book exams," Korea tended to find answers through benchmarking, indicating a lack of learning through genuine experience. Professor Kim emphasizes that failure is an essential learning process and points out that many domestic companies and government officials fail to understand this13.

This pattern is also evident in cases of companies failing to adopt AI successfully. Many companies "as the 4th Industrial Revolution and digital transformation emerged, AI was evaluated as a technology for survival in the new era" and "as a result, everyone rushed to adopt AI with only urgency, but once adopted, it was different from what they had aimed for"6. Cases of damage due to adopting AI without sufficient understanding and preparation are increasing.

Therefore, Professor Kim emphasizes that direct experience and experimentation are most important for utilizing generative AI. He particularly encourages university students to experience generative AI firsthand, emphasizing the importance of experience712.

Finding Human Uniqueness in the Generative AI Era

In a reality where generative AI is rapidly changing the job ecosystem, Professor Kim raises the need to explore what remains uniquely human. While projecting that "in the future, only capitalists, those in power, and genius artists and scientists will be irreplaceable by artificial intelligence"14, he emphasizes the importance of "will" as a uniquely human ability.

Will is neither a product of primitive instinct nor a calculating ability based on understanding gains and losses. When facing a frightening situation, although instinctively wanting to avoid it, the courage to confront that situation despite this instinct, and autonomous action arising from the judgment that one must do what is right – this is the realm of will2. This is a uniquely human characteristic that AI would find difficult to imitate.

At the KAIST Kyobo Humanities Lecture, Professor Kim presented on the topic "What am I? - Human Identity in the Generative AGI Era," noting that with the development of generative artificial intelligence, we might hear questions about human identity through machines15. This suggests that technological advancement could lead to deeper exploration of human essence and identity.

The Importance of Finding Answers on Your Own

Professor Kim encourages his audience to practice finding answers on their own rather than seeking them from others. This approach helps us gain deeper insights through our own experiences.

In the generative AI era, we need to imagine, simulate, and respond1. This means we need an attitude that goes beyond simply predicting the future – we must actively imagine, experiment, and prepare. Particularly in education, changes are needed not only in teaching how to use AI but also in fostering uniquely human capabilities that AI cannot replace.

Reasons why it's difficult to apply generative AI in practice even after training include lack of basic skills ("not knowing how to use it") and lack of successful experiences ("wondering if I can use it")16. To overcome these barriers, continuous practice and experience are important, along with an attitude that isn't afraid of failure and embraces challenges.

Professor Kim's insights invite us to reflect on the essence of humanity in the generative AI era and suggest directions for evolving alongside technology. Rather than simply keeping up with technology, what's important is taking an active approach to expanding human capabilities through technology and creating a better future.

In this generative AI era, what questions are you asking? And what experiences are you building to find those answers? Let's all create a richer future with AI through our own experiences.

 

#GenerativeAI #ProfessorKimDaesik #ArtificialIntelligence #KAIST #AIEra #ChatGPT #AGI #TechnologicalDevelopment #HumanIdentity #FutureTechnology #DigitalRevolution #GenerativeAI #HumanDesire #TechnologyEthics #ExperientialLearning