내 PC에서도 LLM 모델을 실행해 보자! - Ollama 이야기 1
요즘 인공지능 트렌드를 살펴보면
그동안 몇 년동안 큰 흐름이었던 판별형 인공지능 (Discriminative AI)에서
기존 데이터를 기반으로 해서 새로운 데이터를 생성해주는 생성형 인공지능 (Generative AI)으로 관심이 이동하고 있습니다.
왜 그럴까요? 신기하니까~~~~ ^^
그러나, 얀 르쿤 교수님께서 말씀하신 것처럼 인공지능의 여러 분야들은 꾸준히 연구되고 있습니다. (https://www.aitimes.com/news/articleView.html?idxno=159950)
그래요... 넓은 시야를 가집시다! ^^
그래도 OpenAI(https://openai.com)의 chatGPT(https://chatgpt.com/)나 Google의 Gemini(https://gemini.google.com/)나 뤼튼(https://wrtn.ai/) 등과 같은
서비스들은 점점 좋은 기능들을 추가하면서 우리의 관심을 더 끌고 있습니다. 특히, 뤼튼은 무료이면서 최근의 핫한 LLM 모델인 GPT-4o를 지원해주고 있습니다!
그러고 보니, 이런 서비스들은 이제는 내가 구축하고 유지할 수 있는 범위를 넘어서는 능력이 되는 업체만 가능한 것이라고 지레 겁이 납니다.
IT세계에서는 포기하면 안 되지요!!! ^^
역시 세상의 누군가는 같은 생각을 하면서도 저랑은 다르게 직접 행동으로 보여주는 분들이 있습니다.
내 PC에서 직접 운영해보는 LLM 모델 서비스! 어떤가요? 멋지지 않나요?
그래서 Ollama가(https://ollama.com/) 우리 옆에 있습니다. 아래는 Ollama 홈페이지의 메인 화면입니다.
정말 화면 간단하지요? 화면 딱 가운데 Ollama의 목적이 있습니다!
대규모 언어 모델의 시작과 실행 (Get up and running with large language models.)
어디서? 내 PC에서! ^^
이제 조금씩 Ollama를 알아보면서 LLM에 대한 개념과 chatGPT와 같은 서비스도 구축해보고,
나만의 챗봇도 만들어보겠습니다!
그럼 다음 시간에!