무료 GPU 활용해서 오픈소스 LLM 추론하기 - Lightning AI Studio 소개, Ollama 설치하고 Upstage Solar 10.7b 모델 다운로드해서 실습
올라마(ollama)에서 구동되는 로컬 LLM을 무료 GPU를 지원하는 클라우드 환경인 Lightning AI Studio에서 추론해보는 내용을 다룹니다.
Lightning AI Studio는 이메일로 신청 가능하고 회원 인증에 2~3일 정도 소요됩니다.
Lightning AI : https://lightning.ai/
Ollama : https://ollama.com/
Видео 무료 GPU 활용해서 오픈소스 LLM 추론하기 - Lightning AI Studio 소개, Ollama 설치하고 Upstage Solar 10.7b 모델 다운로드해서 실습 канала 판다스 스튜디오
Lightning AI Studio는 이메일로 신청 가능하고 회원 인증에 2~3일 정도 소요됩니다.
Lightning AI : https://lightning.ai/
Ollama : https://ollama.com/
Видео 무료 GPU 활용해서 오픈소스 LLM 추론하기 - Lightning AI Studio 소개, Ollama 설치하고 Upstage Solar 10.7b 모델 다운로드해서 실습 канала 판다스 스튜디오
Комментарии отсутствуют
Информация о видео
15 мая 2024 г. 7:30:23
00:10:56
Другие видео канала
![[입문자를 위한 파이썬 기초] 사용자 정의 함수, 람다 함수 | Jupyter Lab | Python](https://i.ytimg.com/vi/DwdMh9d0QVc/default.jpg)
[입문자를 위한 파이썬 기초] 사용자 정의 함수, 람다 함수 | Jupyter Lab | Python
랭체인(LangChain)과 LLM 활용하여 자연어 처리(NLP) 실습 - 구글 뉴스 검색, 요약, 키워드 추출, 카테고리 분류까지 한번에 끝내기
![[10분] 파이썬 활용 주가 데이터 수집, 시계열 시각화 (FinanceDataReader | 판다스 | 부분 문자열 인덱싱)](https://i.ytimg.com/vi/JceEMUmPso0/default.jpg)
[10분] 파이썬 활용 주가 데이터 수집, 시계열 시각화 (FinanceDataReader | 판다스 | 부분 문자열 인덱싱)
한국어 잘하는 로컬 LLM으로 RAG 성능 평가 - Gemma2, Qwen2 (구독자 이벤트 있음: ~ 2024년 7월 10일)
Huggingface EEVE 모델을 Ollama 변환해서 사용하는 방법 - GGUF 파일 변환
한국어 임베딩 기반 오픈소스 LLM 질의응답 RAG 구현 (PDF 문서) - 랭체인(LangChain), 올라마(Ollama), 허깅페이스(Huggingface)
오픈소스 벡터스토어 성능 평가: Chroma vs FAISS vs Weaviate - 당신의 AI 프로젝트에 최적인 것은?
【실전 MCP #2】 공식 문서로 배우는 MCP 서버 구축 - 파이썬 SDK 활용 주가 데이터 분석 실전 튜토리얼
![【오픈소스 로컬 LLM 활용] OpenWebUI와 MCP 통합 가이드 (실습파일 제공)](https://i.ytimg.com/vi/C_VOGWjTyTs/default.jpg)
【오픈소스 로컬 LLM 활용] OpenWebUI와 MCP 통합 가이드 (실습파일 제공)
정보검색 평가 지표: Hit Rate와 MRR 쉽게 이해하기 & RAG 성능평가 데이터셋 합성하는 방법 with LLM
구글 젬마(gemma:2b) LLM으로 나만의 Python 챗봇 만들기 - 랭체인(LangChain) / 그라디오(gradio) 활용
파이썬 머신러닝 판다스 데이터 분석 - 입문 해설 강의 (2) / 산술연산, 불린 인덱싱, 문자열 메소드
![[랭체인 Runnable이란?] RunnableSequence, RunnablePassthrough, RunnableParallel, RunnableLambda 핵심 설명](https://i.ytimg.com/vi/kP7hyU_idaM/default.jpg)
[랭체인 Runnable이란?] RunnableSequence, RunnablePassthrough, RunnableParallel, RunnableLambda 핵심 설명
Langchain과 GPT-4o-Mini로 손쉽게 만드는 챗봇 시스템 | Chainlit으로 UI 구현까지 완벽하게!
![[입문자를 위한 파이썬 기초] 변수, 자료형, 기본 연산 | Jupyter Lab | Python](https://i.ytimg.com/vi/PvxgQ_-iT7M/default.jpg)
[입문자를 위한 파이썬 기초] 변수, 자료형, 기본 연산 | Jupyter Lab | Python
아래아 한글(HWP) 문서 RAG/ 문서에서 Table(표) 인식 (Markdown 변환) - 랭체인(LangChain), 올라마(Ollama), 허깅페이스(Huggingface)
![[입문자를 위한 파이썬 기초] 딕셔너리 자료형 | Jupyter Lab | Python](https://i.ytimg.com/vi/gZkfH5WkRqI/default.jpg)
[입문자를 위한 파이썬 기초] 딕셔너리 자료형 | Jupyter Lab | Python
LangChain/ Ollama 함수 호출하기 (Part 3) : 평가 데이터셋 합성 / Synthetic Data Generation
![[입문자를 위한 파이썬 기초] 클래스/ 객체 이해 | Jupyter Lab | Python](https://i.ytimg.com/vi/gREFYzsqXT8/default.jpg)
[입문자를 위한 파이썬 기초] 클래스/ 객체 이해 | Jupyter Lab | Python
![[입문자를 위한 파이썬 기초] 리스트 / 튜플 자료형 | Jupyter Lab | Python](https://i.ytimg.com/vi/3UzxBqDDCD4/default.jpg)
[입문자를 위한 파이썬 기초] 리스트 / 튜플 자료형 | Jupyter Lab | Python
