austin-distel-rxpThOwuVgE-unsplash.jpg

AI연구회

경남ICT협회 AI 연구 모임

자료실

DeepSeek Local PC에서 안전하게 사용

1. DeepSeek R1 ? 

DeepSeek R1은 중국의 인공지능 연구소인 DeepSeek에서 개발한 최신 대규모 언어 모델(LLM)입니다. 이 모델은 수학, 코딩, 논리적 추론 등 다양한 분야에서 우수한 성능을 보이며, OpenAI의 최신 모델과 견줄 만한 능력을 갖추고 있습니다. 

DeepSeek R1은 강화 학습을 통해 추론 능력을 향상시켰으며, 이를 통해 복잡한 문제를 해결하는 데 뛰어난 성과를 보입니다. 또한, 이 모델은 오픈 소스로 공개되어 있어 누구나 무료로 접근하고 활용할 수 있습니다. 

DeepSeek R1의 출시로 인해 기술 업계에서는 큰 반향이 일어났으며, 특히 미국의 주요 기술 기업들의 주가에 영향을 미쳤습니다. 이러한 발전은 인공지능 분야에서 중국의 기술력이 빠르게 성장하고 있음을 보여줍니다.

DeepSeek R1은 현재 웹, 앱, API를 통해 접근할 수 있으며, 자세한 내용은 공식 웹사이트에서 확인하실 수 있습니다.   

 

2. DeepSeek 개인 정보 보호 정책 

DeepSeek  개인정보 정책은 맨처음 로그인 할 때 Terms of Use and Privacy Policy 에서 발췌한 내용으로 다음과 같습니다. (아무래도 조금 찝찝한 생각이…)  

  • 프로필 정보. 당사는 귀하가 계정을 설정할 때 제공하는 정보(예: 생년월일(해당되는 경우), 사용자 이름, 이메일 주소 및/또는 전화번호, 비밀번호)를 수집합니다.
  • 사용자 입력. 귀하가 당사 서비스를 사용할 때 당사는 귀하가 당사 모델 및 서비스에 제공하는 텍스트 또는 오디오 입력, 프롬프트, 업로드된 파일, 피드백, 채팅 기록 또는 기타 콘텐츠를 수집할 수 있습니다.
  • 귀하가 당사에 연락할 때의 정보. 귀하가 당사에 연락할 때 당사는 신원 또는 연령 증명, 귀하의 서비스 사용에 대한 피드백 또는 문의 또는 서비스 약관(당사 "약관") 또는 기타 정책의 위반 가능성에 대한 정보와 같이 귀하가 당사에 보내는 정보를 수집합니다.
  • 기술 정보. 당사는 귀하가 서비스에 액세스할 때 특정 장치 및 네트워크 연결 정보를 수집합니다. 이 정보에는 장치 모델, 운영 체제, 키 입력 패턴 또는 리듬, IP 주소 및 시스템 언어가 포함됩니다. 또한 충돌 보고서 및 성능 로그를 포함한 서비스 관련, 진단 및 성능 정보를 수집합니다. 장치 ID와 사용자 ID가 자동으로 할당됩니다. 귀하가 여러 장치에서 로그인하는 경우, 당사는 귀하의 장치 ID 및 사용자 ID와 같은 정보를 사용하여 장치 간 활동을 식별하여 원활한 로그인 경험을 제공하고 보안을 목적으로 합니다.
  • 사용 정보. 당사는 귀하가 사용하는 기능 및 귀하가 취하는 조치와 같은 귀하의 서비스 사용에 관한 정보를 수집합니다.
  • 쿠키. 당사와 당사의 서비스 제공업체 및 비즈니스 파트너는 쿠키 및 기타 유사한 기술(예: 웹 비콘, 플래시 쿠키 등)("쿠키")을 사용하여 정보를 자동으로 수집하고, 귀하의 서비스 사용 방식을 측정 및 분석하고, 서비스 사용 경험을 개선하고, 서비스를 개선할 수 있습니다. 쿠키를 통해 당사 서비스는 특정 기능을 제공할 수 있습니다. 웹 비콘은 "픽셀 태그" 또는 "투명 GIF"라고도 하는 이미지에 포함된 매우 작은 이미지 또는 작은 데이터 조각으로, 쿠키, 페이지를 본 시간 및 날짜, 픽셀 태그가 배치된 페이지에 대한 설명 및 컴퓨터 또는 장치의 유사한 정보를 인식할 수 있습니다. 특정 쿠키를 비활성화하는 방법에 대한 자세한 내용은 아래의 "귀하의 선택" 섹션을 참조하십시오.
  • 결제 정보. 귀하가 선불을 위해 유료 서비스를 사용하는 경우, 당사는 주문, 결제, 고객 서비스 및 판매 후 지원과 같은 서비스를 제공하기 위해 귀하의 결제 주문 및 거래 정보를 수집합니다.
  • 로그인, 가입 또는 연결된 서비스. 가능한 경우, 귀하가 Apple 또는 Google과 같은 제3자 서비스를 사용하여 서비스에 가입 또는 로그인하거나 귀하의 계정을 제3자 서비스에 연결하기로 선택하는 경우, 당사는 서비스로부터 액세스 토큰과 같은 정보를 수집할 수 있습니다.
  • 광고, 측정 및 기타 파트너. 광고주, 측정 및 기타 파트너는 귀하에 대한 정보 및 귀하가 온라인 또는 직접 구매한 제품 또는 서비스를 포함하여 다른 웹사이트 및 앱 또는 매장에서의 활동과 같이 서비스 외부에서 취한 조치에 대한 정보를 당사와 공유합니다. 또한 이러한 파트너는 광고용 모바일 식별자, 해시된 이메일 주소 및 전화번호, 쿠키 식별자와 같은 정보를 당사와 공유하며, 당사는 이러한 정보를 사용하여 서비스 외부에서 귀하와 귀하의 행동을 일치시키는 데 도움을 줍니다.

 

3. Local PC에서 사용하려면  

  • 데이터를 공유하지 않고 개인정보를 지킬 수 있는 가장 좋은 방법은 모델을 내 PC(로컬)에서 실행하는 것입니다. 이는 인터넷 연결이 필요 없으며,   사생활 보호가 가능한 방법으로 Ollama를 사용하는 방법 입니다. (Ollama는 사용자가 컴퓨터에서 로컬로 대규모 언어 모델(LLM)을 실행할 수 있는 무료 오픈 소스 도구) 

1. Ollama Download 

2. 설치 확인 

      . cmd 창에서 ollama -v 실행 합니다. 

      . version을 확인합니다. 

 

3. ollama에서 DeepSeek R1 모델 확인  

 

4. DeepSeek R1 내 PC에서 사용 위한 GPU, VRAM 

   - PC사양이 된다면 가능한 8B이상 권장합니다. 동일한 질문을 7B, 8B로 할 경우 상당한 차이를 보임.

 

 

5. 사용하기(cmd)

cmd 창에서 “ollama run deepseek-r1:7b” 실행  

6. 사용하기 - Window 모드

(코드는 첨부 파일 참조하세요~) 

참조기사: 한국경제(78억짜리 중국산 'AI 고래', 1400억 쓴 챗GPT 압도)

기업 홍보를 위한 확실한 방법
협회 홈페이지에 회사정보를 보강해 보세요.