austin-distel-rxpThOwuVgE-unsplash.jpg

AI연구회

경남ICT협회 AI 연구 모임

자료실

Ollama Python 라이브러리

아래는 Ollama Python 라이브러리 개선 사항 공지한 내용입니다. 

-----


최신 버전의 Ollama Python 라이브러리  에서는 이제 함수를 도구로 제공할 수 있습니다. 라이브러리는 이제 완전한 입력 지원을 제공하며 새로운 예제가 추가되었습니다. 아래 예제의 소스 코드는 GitHub에 있습니다. 
시작 
먼저 Ollama Python 라이브러리를 설치하거나 업그레이드합니다:
pip install -U ollama


Python 함수를 도구로 전달하기
Python 함수 정의하기
먼저 일반 Python 함수를 정의합니다. 더 나은 결과를 얻으려면 매개 변수와 반환 값 유형에 주석을 달고 선택적으로 Google 스타일의 docstring을 추가하십시오.


도구로서의 기능을 Ollama에게 전달
다음으로, tools 필드를 사용하여 함수를 Ollama에 도구로 전달합니다.


모델 응답에서 함수를 호출합니다
반환된 도구 호출과 모델에서 제공하는 인수를 사용하여 해당 함수를 호출합니다.


기존 기능을 도구로 전달
기존 Python 라이브러리, SDK 및 기타 위치의 기능도 이제 도구로 제공할 수 있습니다. 예를 들어, 다음 코드는 requests 라이브러리의 request 함수를  Ollama 웹사이트의 콘텐츠를 가져오는 도구로 전달합니다.


작동 방식: 함수에서 JSON 스키마 생성
Ollama Python 라이브러리는 Pydantic 및 docstring 구문 분석을 사용하여 JSON 스키마를 생성합니다. 예를 들어,  이 게시물의 시작 부분에서 선언된 add_two_nubmers 함수의 경우 다음 JSON 스키마가 생성됩니다(이전에는 도구로 수동으로 제공해야 했습니다).


 

Ollama Python 라이브러리에 대한 추가 개선 사항
Ollama Python 라이브러리의 0.4 릴리스에는 다음과 같은 추가 개선 사항이 포함되어 있습니다.
예제가 Ollama Python GitHub에 업데이트되었습니다.
라이브러리 전체에서 전체 입력 지원을 통해 기존 기능을 유지하면서 직접 개체 액세스를 지원합니다.

피드백이 있으면 주저하지 말고 Discord나 hello@ollama.com 를 통해 알려주세요.

Ollama의 최신 버전은 0.4.5입니다
🎉🎉🎉 올라마의 100번째 출시입니다! 🎉🎉🎉  

다운로드 Ollama

Ollama 메인테이너
https://github.com/ollama/ ollama

기업 홍보를 위한 확실한 방법
협회 홈페이지에 회사정보를 보강해 보세요.