날아라김지원
article thumbnail
Ollama에 허깅페이스에서 다운받은 모델 적용하기
LLM, AI 2024. 6. 22. 13:06

meta에서 공식으로 풀어준 llama3 말고도 사람들이 튜닝? 같은걸해서 여러 버전으로 특화해 놓은게 있다. 그중에서도 한국어 잘 알아먹게  데이터 넣어주시고 여러모로 잘 말아주셔서? 공개해주신 감사한 분들이 있음https://huggingface.co/MLP-KTLim/llama-3-Korean-Bllossom-8B/tree/mainhttps://huggingface.co/teddylee777/Llama-3-Open-Ko-8B-Instruct-preview-gguf 대표적으로 이 두개가 있는데 아래것을 사용해보도록하자. 왜냐하면 .gguf 확장자로 되어있어야 어케저케해서 모델로 잘 만드는데 이미 그렇게 되어있기 때문이다. 첫번째 링크것처럼 safetensors 확장자로 되어있으면 다시 gguf로 변환..

article thumbnail
Ollama 사용해서 로컬 모델 구축하기 (Private GPT)
LLM, AI 2024. 6. 22. 12:48

https://ollama.com/ 아주짧게 요약하면 오픈소스로 공개된 여러 LLM모델들을 쉽게 사용할 수 있게 해주는 녀석인거같다. 대표적으로 meta에서 공개한 llama가 유명한데 llama2, llama3 두개 사용해보고 싶어서 설치해봤다. 지금 M3 MAX사용중인데 결론적으로 8B모델의경우 거의실시간으로 답변이온다. ollama 사이트 접속해서 우측 상단에 모델을 보면 엄청 많은데 역시 라마가 대표적이다. 여튼 결론적으로 내 기억을 위한 설명부터들어간다. (맥북기준, 윈도우도 아마 다를건 없음) 1.메인화면에서 다운로드를 누르고 들어가 운영체제에 맞게 설치해준다. 2.설치 다하면 터미널을 실행해주고 명령어 입력해주면되는데ollama run llama3:8b 라고입력하면 대표적인 경량화 모델을 설..

article thumbnail
Next.js .env설정 및 Nextauth URL설정하기, 포트변경
Next.js 2023. 11. 9. 13:33

1.Next.js .env파일 사용하기 프로젝트 최상단에 .env파일을 설정한뒤사용할 수 있다. 그중 순서대로 나열해보면 1-1)로컬 환경에서 env사용하기 : .env.local DB_HOST=localhost DB_USER=myuser DB_PASS=mypassword //서버에서 사용할 시는 위와같이 사용한다. NEXT_PUBLIC_ANALYTICS_ID=abcdefghijk //브라우저에서 사용할시는 NEXT_PUBLIC_키워드를 사용해준다. 사용하는방법 아래와같이 process.env.변수명 으로 사용할 수 있다. //서버에서 사용할시 export async function getStaticProps() { const db = await myDB.connect({ host: process.env..

article thumbnail
우분투(Ubuntu)에 몽고DB설치하기
리눅스 2023. 11. 9. 12:32

https://www.mongodb.com/docs/manual/tutorial/install-mongodb-on-ubuntu/ Install MongoDB Community Edition on Ubuntu — MongoDB Manual Docs Home → MongoDB Manual MongoDB AtlasMongoDB Atlas is a hosted MongoDB service option in the cloud which requires no installation overhead and offers a free tier to get started.Use this tutorial to install MongoDB 7.0 Community Edition on LTS (long-te www.mongod..

article thumbnail
우분투(Ubuntu) 사용하지 않는 포트 종료하기
리눅스 2023. 11. 9. 12:25

현재 개인 PC남는거에 우분투 20.0.4 LTS 버전으로 테스트를 하고 있다. # 실행중인 포트확인 netstat -tnlp # 포트번호로 종료하기 sudo fuser -k 80/tcp # pid번호로 종료하기 sudo kill -9 pid번호 # 실행중인 포트확인 netstat -tnlp 즉 종료하려면 sudo fuser -k 80/tcp와 같이 입력하면된다.

파이썬 전역변수 global에 대해서 (DFS 재귀함수와 함께)
알고리즘 2023. 9. 18. 20:42

def recur(i): if i==100: return print(i,'번째 재귀 함수를 호출합니다') recur(i+1) print(i,'번째 재귀종료') recur(1) 이와같은 재귀함수가 있다고 치자 만약 4번째줄에 재귀함수가 호출 될 때마다 카운트를 하고싶다면 어떻게 해야할까? 다른언어들처럼 그냥 함수밖에 변수하나를 선언하고 카운팅을 하려고했는데 알고보니 파이썬은 그게 먹히지가 않더라... 종료직전에 return으로 카운트를 맥여도 될거같은데 적어도 나에게 직관적이진 않았다. 여튼 방법은 아래와 같다. 1.파이썬 전역변수 설정하는방법 global cnt cnt = 0 def recur(i): if i==100: return print(i,'번째 재귀 함수를 호출합니다') global cnt cn..

article thumbnail
Day.js (dayjs) 라이브러리 사용하기
Next.js 2023. 8. 17. 22:28

"라이브러리에 패배한 나" 라는 말과 함께 시작하고 싶다. 윤달과 윤년에 대해 아는가...? 그냥 한참 전인가 언젠가 C언어 수업에서 윤달과 윤년까지 고려해 달력을만드는 알고리즘을 짰던 기억이있다. 뭐 사실 까다로울 뿐이지 불가능한 수준의 구현은 아니었다. 하지만 이런기억.. 이제는 잊는게 좋다. 프론트엔드 화면 구현중 datePicker를 사용해야 하는 상황이 있었다. 결론만 말하면 2023.07.17 - 2023.08.17 의 형태로 정확히 한달 간격의 선택을 해야하는 상황이 있었다. 시나리오로 따지면 오늘로부터 정확히 한달전 참 모호하다. 오늘이 17일이면 월만 1을 빼면되나..? 만약 31일이면 2월 31일은 없는데? 날짜가 의외로 여러 예외사항이 매우많았다. let day1 = '2023.07...

article thumbnail
Next.js에 폰트 바꿔서 적용하기 (ttf파일 사용)
Next.js 2023. 8. 7. 21:33

- 서론 (Next.js에서 폰트 바꿔서 사용하는 대략적인 가이드) 보통 인터넷이 연결 되어있는 상황에서는 패키지나, 구글폰트를 이용해 폰트적용을 많이 합니다. 아래와 같이 말이죠 layout.js import './globals.css' import { Inter } from 'next/font/google' const inter = Inter({ subsets: ['latin'] }) export const metadata = { title: 'Create Next App', description: 'Generated by create next app', } export default function RootLayout({ children }) { return ( {children} ) } 위 코드는..