반응형 전체 글202 Ollama에 허깅페이스에서 다운받은 모델 적용하기 meta에서 공식으로 풀어준 llama3 말고도 사람들이 튜닝? 같은걸해서 여러 버전으로 특화해 놓은게 있다. 그중에서도 한국어 잘 알아먹게 데이터 넣어주시고 여러모로 잘 말아주셔서? 공개해주신 감사한 분들이 있음https://huggingface.co/MLP-KTLim/llama-3-Korean-Bllossom-8B/tree/mainhttps://huggingface.co/teddylee777/Llama-3-Open-Ko-8B-Instruct-preview-gguf 대표적으로 이 두개가 있는데 아래것을 사용해보도록하자. 왜냐하면 .gguf 확장자로 되어있어야 어케저케해서 모델로 잘 만드는데 이미 그렇게 되어있기 때문이다. 첫번째 링크것처럼 safetensors 확장자로 되어있으면 다시 gguf로 변환.. 2024. 6. 22. Ollama 사용해서 로컬 모델 구축하기 (Private GPT) https://ollama.com/ 아주짧게 요약하면 오픈소스로 공개된 여러 LLM모델들을 쉽게 사용할 수 있게 해주는 녀석인거같다. 대표적으로 meta에서 공개한 llama가 유명한데 llama2, llama3 두개 사용해보고 싶어서 설치해봤다. 지금 M3 MAX사용중인데 결론적으로 8B모델의경우 거의실시간으로 답변이온다. ollama 사이트 접속해서 우측 상단에 모델을 보면 엄청 많은데 역시 라마가 대표적이다. 여튼 결론적으로 내 기억을 위한 설명부터들어간다. (맥북기준, 윈도우도 아마 다를건 없음) 1.메인화면에서 다운로드를 누르고 들어가 운영체제에 맞게 설치해준다. 2.설치 다하면 터미널을 실행해주고 명령어 입력해주면되는데ollama run llama3:8b 라고입력하면 대표적인 경량화 모델을 설.. 2024. 6. 22. Next.js .env설정 및 Nextauth URL설정하기, 포트변경 1.Next.js .env파일 사용하기 프로젝트 최상단에 .env파일을 설정한뒤사용할 수 있다. 그중 순서대로 나열해보면 1-1)로컬 환경에서 env사용하기 : .env.local DB_HOST=localhost DB_USER=myuser DB_PASS=mypassword //서버에서 사용할 시는 위와같이 사용한다. NEXT_PUBLIC_ANALYTICS_ID=abcdefghijk //브라우저에서 사용할시는 NEXT_PUBLIC_키워드를 사용해준다. 사용하는방법 아래와같이 process.env.변수명 으로 사용할 수 있다. //서버에서 사용할시 export async function getStaticProps() { const db = await myDB.connect({ host: process.env.. 2023. 11. 9. 우분투(Ubuntu)에 몽고DB설치하기 https://www.mongodb.com/docs/manual/tutorial/install-mongodb-on-ubuntu/ Install MongoDB Community Edition on Ubuntu — MongoDB Manual Docs Home → MongoDB Manual MongoDB AtlasMongoDB Atlas is a hosted MongoDB service option in the cloud which requires no installation overhead and offers a free tier to get started.Use this tutorial to install MongoDB 7.0 Community Edition on LTS (long-te www.mongod.. 2023. 11. 9. 우분투(Ubuntu) 사용하지 않는 포트 종료하기 현재 개인 PC남는거에 우분투 20.0.4 LTS 버전으로 테스트를 하고 있다. # 실행중인 포트확인 netstat -tnlp # 포트번호로 종료하기 sudo fuser -k 80/tcp # pid번호로 종료하기 sudo kill -9 pid번호 # 실행중인 포트확인 netstat -tnlp 즉 종료하려면 sudo fuser -k 80/tcp와 같이 입력하면된다. 2023. 11. 9. 파이썬 전역변수 global에 대해서 (DFS 재귀함수와 함께) def recur(i): if i==100: return print(i,'번째 재귀 함수를 호출합니다') recur(i+1) print(i,'번째 재귀종료') recur(1) 이와같은 재귀함수가 있다고 치자 만약 4번째줄에 재귀함수가 호출 될 때마다 카운트를 하고싶다면 어떻게 해야할까? 다른언어들처럼 그냥 함수밖에 변수하나를 선언하고 카운팅을 하려고했는데 알고보니 파이썬은 그게 먹히지가 않더라... 종료직전에 return으로 카운트를 맥여도 될거같은데 적어도 나에게 직관적이진 않았다. 여튼 방법은 아래와 같다. 1.파이썬 전역변수 설정하는방법 global cnt cnt = 0 def recur(i): if i==100: return print(i,'번째 재귀 함수를 호출합니다') global cnt cn.. 2023. 9. 18. 이전 1 2 3 4 ··· 34 다음 반응형
