Office 길잡이 재롱이 (Rocky) 구현하기 (w/ LLaMA2)

현재 20·30대만 알고 있다는 강아지

 

Microsoft Office 2000 의 신기능으로 탄생된 Office 도우미 중 한 캐릭터였던 재롱이 (Rocky; 록키) 를 살려보았다.

 

[기사 참고] https://www.joongang.co.kr/article/21403690#home

20·30대만 알고 있는 강아지 | 중앙일보

 

1. 인터페이스 구현 (Python Tkinter 활용)

 

(1) Tkinter 를 이용하여 텍스트, 입력칸, 애니메이션 구현

 

(2) 재롱이 (Rocky) 이미지 출처: https://peacelight14.blogspot.com/2011/02/office-assistant.html

 

 

2. 채팅 기능을 위한 LLM 연동 (LLaMA2-7B 활용)

 

(1) 모델 다운로드 (약 3GB): https://huggingface.co/TheBloke/Llama-2-7B-Chat-GGML/tree/main

 

(2) 모델 로딩은 ctransformers 활용: https://github.com/marella/ctransformers

 

* NVIDIA 의 GPU 를 이용하여 GPU 를 사용해서 동작하는 것을 확인함

 

3. 소스 코드

 

https://github.com/by-park/llmrocky

GitHub - by-park/llmrocky: Rocky, AI assistant