라마3(Llama3) ollama API 이용한 파이썬 사용 방법 | 데이터카페

라마3(Llama3) ollama API 이용한 파이썬 사용 방법
- ollama api/chat 이용해  requests, json 만 이용해서 간단하게 API 호출 하였습니다.

code
import requests
import json

while True:
    # 사용자 입력 받기
    prompt = input("Enter your prompt: ")

    # API 호출 정보 설정
    url = "http://localhost:11434/api/chat"
    headers = {"Content-Type": "application/json"}
    data = {
                "model": "llama3",
                "messages": [ {
                                "role" : "system",
                                "content":"Use only Korean."
                              },
                              {
                                "role": "user",
                                "content": prompt
                              }
                            ],
                "stream": False
            }

    # JSON으로 인코딩
    json_data = json.dumps(data)

    # API 호출 및 응답 처리
    response = requests.post(url, headers=headers, data=json

    # 응답 상태 코드 확인
    if response.status_code == 200:
        # 성공 시 응답 내용 중 response 값만 출력
        response_data = json.loads(response.content.decode()
        print(response_data['message']['content']) 
    else:
        # 실패 시 에러 메시지 출력
        print(f"API 호출 실패: {response.status_code}")