LLM

7개의 글

LLM(대규모 언어 모델)의 추론 개념, 작동 원리, 추론 모델의 종류와 한계, 그리고 실제 활용 방법을 설명한다.

프롬프트 엔지니어링의 개념, 기본 구성 요소, 활용 분야, 그리고 실전 기법을 설명한다. LLM과 효과적으로 소통하기 위한 프롬프트 설계 방법을 정리한다.

제로샷 프롬프팅, 퓨샷 프롬프팅, 프롬프트 체이닝 등 프롬프트 엔지니어링의 기본 기법을 실제 예시와 함께 설명한다.

Chain-of-Thought(CoT), Tree-of-Thought(ToT), ReAct 등 프롬프트 엔지니어링의 고급 기법을 설명한다. 복잡한 문제를 해결하기 위한 고급 추론 기법을 정리한다.

Multi-modal CoT와 Graph 프롬프팅 등 다양한 형태의 정보를 활용하는 고급 프롬프트 엔지니어링 기법을 설명한다. 이미지, 텍스트, 지식 그래프를 활용한 추론 기법을 정리한다.

Ollama의 기본 명령어와 모델 관리 방법, Quantize(양자화)를 통한 모델 최적화 기법을 설명한다. 로컬 LLM 모델의 크기와 성능을 조절하는 방법을 정리한다.

Python에서 Ollama API를 사용하는 방법을 설명한다. payload 옵션, 특히 role 옵션의 종류와 사용법, 예시를 정리한다.