개발자들이 정말 원했던 셀프 호스팅 NotebookLM을 찾았습니다 (Open-Notebook)
BBetter Stack
Computing/SoftwareSmall Business/StartupsInternet Technology
Transcript
00:00:00Notebook LM, 정말 놀랍죠.
00:00:02논문이나 문서, 심지어 코드베이스까지 업로드하면
00:00:05이제 그 내용을 질문하고 요약할 수 있으니까요.
00:00:08하지만 아무도 말하고 싶어 하지 않는 부분이 있습니다.
00:00:10그 모든 자료를 여전히 구글에 업로드해야 한다는 점이죠.
00:00:14이것은 Open Notebook입니다.
00:00:15GitHub에서 별 27,000개 이상을 받았죠.
00:00:18직접 호스팅할 수 있으며, 아주 간단한 질문을 던집니다.
00:00:22Notebook LM 경험을 그대로 누리면서
00:00:24개발자 수준의 제어권을 가질 수 있다면 어떨까요?
00:00:26오늘 직접 구동해보고 워크플로우를 테스트한 뒤,
00:00:29Notebook LM 및 anything LLM과 비교하며
00:00:32진짜 답을 찾아보겠습니다.
00:00:34이게 정말 개발자에게 유용한 걸까요,
00:00:36아니면 그저 또 하나의 AI 래퍼일까요?
00:00:43Open Notebook은 프라이버시를 최우선으로 하는
00:00:45Notebook LM의 셀프 호스팅 대안입니다.
00:00:47하지만 그렇게 말하면 조금 부족하죠.
00:00:49단순한 Notebook LM이 아니라 오픈 소스니까요.
00:00:53Notebook LM 스타일의 연구 워크스페이스를 제공하며,
00:00:57멀티 모델 지원, 팟캐스트 생성, 로컬 우선 옵션,
00:01:01그리고 실제로 구축할 수 있는 REST API까지 지원합니다.
00:01:04많은 사람이 바로 그 점에 주목하고 있습니다.
00:01:07대부분은 이것을 보고 한 가지만 생각하죠.
00:01:09'좋아, PDF로 AI 팟캐스트를 만들 수 있겠네.'
00:01:12잘했네요.
00:01:14하지만 개발자들은 조금 다르게 생각합니다.
00:01:16'내 워크플로우에 연결할 수 있을까?'
00:01:19그게 진짜 질문이죠.
00:01:20로컬 모델을 사용할 수 있을까?
00:01:22연구 요약을 자동화할 수 있을까?
00:01:25그런 질문들에 대한 답을 내리는 과정에서
00:01:26Open Notebook은 흥미로워집니다.
00:01:28Gemini에 갇힐 필요가 없습니다.
00:01:30다양한 제공업체를 선택할 수 있죠.
00:01:32Ollama를 통한 로컬 모델을 포함해서요.
00:01:34직접 호스팅할 수 있습니다.
00:01:35다양한 화자 프로필을 선택하여
00:01:37팟캐스트 경험을 커스터마이징할 수 있죠.
00:01:39API가 있기 때문에
00:01:41내 스택의 일부가 될 수 있습니다.
00:01:43브라우저의 또 다른 탭이 아니고요.
00:01:45워크플로우를 빠르게 해주는 코딩 도구를 좋아하신다면
00:01:48구독해주세요.
00:01:49영상이 계속 올라오고 있으니까요.
00:01:51자, 실제로 실행해봐서
00:01:52작동 방식을 보여드리겠습니다.
00:01:55Open Notebook은 도커 기반입니다.
00:01:57정말 멋지죠.
00:01:58컨테이너에 익숙하시다면
00:02:00매우 익숙한 환경일 겁니다.
00:02:02컴포즈 설정을 실행하고,
00:02:04서비스가 실행될 때까지 기다렸다가
00:02:06브라우저에서 앱을 열면 됩니다.
00:02:08이제 실행되었으니 새로운 노트북을 만들어보겠습니다.
00:02:10노트북을 프로젝트 단위의 연구 워크스페이스라고 생각하세요.
00:02:13모든 것을 하나의 거대한 AI 채팅에 몰아넣는 대신,
00:02:17각각 분리할 수 있습니다.
00:02:19코드베이스용 노트북 하나,
00:02:21프로젝트 연구용 하나,
00:02:22학술 논문용 하나,
00:02:24내부 문서용,
00:02:25기타 등등요.
00:02:26이제 소스를 추가할 수 있습니다.
00:02:29PDF나 리드미 파일,
00:02:31문서,
00:02:31기술 문서,
00:02:32연구 논문,
00:02:33시스템이 추론했으면 하는
00:02:35어떤 것이든 가능합니다.
00:02:37중요한 단어는 '소스'입니다.
00:02:39단순한 일반 AI 채팅이 목적이 아니니까요.
00:02:43사용자가 제공한 자료에 기반한 근거 있는 답변이 목표입니다.
00:02:48그럼 이제 기술적인 질문을 하나 해보겠습니다.
00:02:51이런 식으로 질문해볼 수 있겠네요.
00:02:53'이 프로젝트의 주요 구성 요소는 무엇이며,
00:02:55확장하려면 무엇을 변경해야 할까?'
00:02:58처리 중입니다.
00:03:00이게 기본적인 Notebook LM 스타일 경험입니다.
00:03:03소스를 추가하고,
00:03:04질문을 하고,
00:03:04소스에 근거한 답변을 얻는 거죠.
00:03:07하지만 여기서부터가 핵심입니다.
00:03:08이 지점이 클론처럼 느껴지던 느낌을 멈추고,
00:03:11더 개발자 친화적이며,
00:03:13독자적인 무언가로 느껴지게 합니다.
00:03:15원하는 모델 제공업체를 선택할 수 있으며,
00:03:18앞서 말했듯이 Gemini 같은 공급업체에 종속되지 않습니다.
00:03:20호스팅 모델,
00:03:21전혀 문제없죠.
00:03:22로컬 모델,
00:03:24또한 문제없습니다.
00:03:25품질, 속도, 비용, 그리고 프라이버시 사이에서
00:03:27선택할 수 있습니다.
00:03:28그리고 대부분이 가장 먼저 클릭할 기능,
00:03:29팟캐스트 생성기가 있죠.
00:03:30Notebook LM은 AI 팟캐스트를
00:03:30꽤 멋지게 만들었습니다.
00:03:31아직 써보지 않았다면,
00:03:32한번 해보시는 게 좋을 겁니다.
00:03:34여기서 실행해보면,
00:03:36음, 다른 일이 벌어집니다.
00:03:38한번 들어보시죠.
00:03:40자율성과 프라이버시를 추구하는
00:03:41연구자들에게는 게임 체인저죠.
00:03:42물론이죠, 알렉스.
00:03:44Ollama의 가장 멋진 부분 중 하나라고 생각합니다.
00:03:44멋지죠?
00:03:46하지만 Open Notebook은 그 형식에 대해
00:03:46더 많은 제어권을 제공합니다.
00:03:48소스에서 팟캐스트를 생성하고,
00:03:50구조를 구성하고,
00:03:52하나의 고정된 스타일 대신
00:03:54다양한 화자 프로필을 사용할 수 있죠.
00:03:55그래서 일반적인 AI 호스트가
00:03:57PDF를 설명하게 하는 대신,
00:03:58더 구체적인 무언가를
00:04:00만들 수 있습니다.
00:04:01예를 들어 제품 관리자와
00:04:02백엔드 개발자가 아키텍처 문서를
00:04:04토론하는 것처럼요.
00:04:05사소해 보일 수 있지만,
00:04:07정말 골치 아픈 내용에 사용해보면
00:04:08이야기가 달라집니다.
00:04:10긴 RFC,
00:04:11밀도 높은 백서,
00:04:12지루한 API 사양,
00:04:14이 모든 것들을요.
00:04:15건조한 정보를 더 쉽게 소비할 수 있는
00:04:16방법인 거죠.
00:04:17이제 기존에 나와 있는 도구들과
00:04:19비교해보겠습니다.
00:04:20먼저 구글 Notebook LM부터 시작하죠.
00:04:22Notebook LM은 훌륭합니다.
00:04:24쉽고, 아주 잘 작동하죠.
00:04:25그리고 우리 중 많은 사람에게는
00:04:26그것만으로도 충분할 겁니다.
00:04:28하지만 그 모든 편리함 뒤에는
00:04:29제어권에 대한 트레이드오프가 있습니다.
00:04:30Open Notebook은 셀프 호스팅,
00:04:32멀티 모델 지원,
00:04:33로컬 모델 옵션,
00:04:35맞춤형 팟캐스트,
00:04:36그리고 API 액세스를 제공합니다.
00:04:39따라서 민감한 문서, 개인 연구, 또는
00:04:40내부 자료를 다루고 있다면,
00:04:41Open Notebook이
00:04:41더 강력한 프라이버시 스토리를 제공합니다.
00:04:43하지만 여기엔 함정이 있습니다.
00:04:45Open Notebook이 Notebook LM만큼 부드러울까요?
00:04:46항상 그렇지는 않습니다.
00:04:48Notebook LM은 완벽하게 호스팅된 제품이라는
00:04:49장점이 있죠.
00:04:50구글에서 만든 거잖아요?
00:04:51Open Notebook은 더 유연하지만,
00:04:52여전히 개발자 지향적인 오픈 소스 프로젝트처럼 느껴집니다.
00:04:54그게 치명적인 단점은 아닙니다.
00:04:55그저 여러분이 무엇을 선택하는지
00:04:56알아야 한다는 뜻이죠.
00:04:58이제 anything LLM과 비교해보죠.
00:04:59솔직히 그건 정말 멋진 도구입니다.
00:05:01Open Notebook은
00:05:01셀프 호스팅 AI 공간에서 인기가 많지만,
00:05:04승리하는 방식이 다릅니다.
00:05:06시작하기가 더 쉽죠.
00:05:07데스크톱 앱이 있고,
00:05:08노코드 에이전트 워크플로우를 지원하니까요.
00:05:10훌륭합니다.
00:05:12기술적 지식이 없는 사용자에게는
00:05:15첫걸음이 될 수 있겠죠.
00:05:16하지만 Open Notebook은
00:05:17Notebook LM 스타일의
00:05:18연구 경험에 더 집중한 느낌입니다.
00:05:20사람들이 무엇을 좋아하고
00:05:22무엇에 대해 불평하는지
00:05:23솔직해져 보죠.
00:05:24여기서 큰 승리는
00:05:27프라이버시가 될 것입니다.
00:05:30민감한 문서, 개인 코드, 고객 연구,
00:05:31또는 호스팅된 AI 도구에 업로드하기
00:05:33주저되는 것이 있다면,
00:05:35셀프 호스팅이 정말 중요하죠.
00:05:37Open Notebook이 처음에 존재하게 된
00:05:38주된 이유이기도 합니다.
00:05:40그리고 모델 유연성이 있습니다.
00:05:41하나의 공급업체에 강제로
00:05:42종속되지 않죠.
00:05:44네, 제가 원하는 모델을 선택할 수 있습니다.
00:05:46큰 장점이죠.
00:05:48즉, 우리에게 필요한 것을
00:05:50선택할 수 있다는 뜻입니다.
00:05:50이제 마지막으로
00:05:51이 도구를 어떻게 활용해야 할지
00:05:52정리해보겠습니다.
00:05:53만약 여러분이
00:05:54강력한 데이터 통제권을 원한다면,
00:05:56Open Notebook은 아주 훌륭한 선택입니다.
00:05:58특히 보안이 중요한 기업 환경이나,
00:06:00개인적인 연구 자료를
00:06:02안전하게 다루고 싶다면 말이죠.
00:06:04그렇다면 셀프 호스팅이 정말 중요해집니다.
00:06:06그게 바로 Open Notebook이
00:06:07애초에 존재하는
00:06:08가장 큰 이유입니다.
00:06:10다음은 모델 유연성입니다.
00:06:12한 업체에만 묶일 필요가 없죠.
00:06:14네, 원하는 모델을 선택할 수 있어요.
00:06:16큰 장점이죠.
00:06:17즉, 우리가 작업하는 내용에 맞춰
00:06:19필요한 것을
00:06:19고를 수 있다는 건데,
00:06:21동시에 새로운 문제도 만듭니다.
00:06:24선택을 해야 하거든요.
00:06:25또한 팟캐스트 커스터마이징도 가능합니다.
00:06:28방대한 프로젝트 사양,
00:06:29복잡한 API, Docker,
00:06:31긴 연구 논문 등,
00:06:32실제로 의미가 있어지기 시작합니다.
00:06:33마지막으로 API는 우리 많은 이들에게
00:06:35중요한 부분이죠.
00:06:36GitHub 이슈에서
00:06:38연구 브리핑을 생성하거나,
00:06:40출력물을 Slack,
00:06:41Linear, 또는 Notion으로
00:06:43보내는 워크플로우를 상상할 수 있죠.
00:06:45좋습니다.
00:06:46자, 그럼 이런 점들의 단점,
00:06:48혹은 처음에
00:06:49별로라고 생각할 수 있는 점은,
00:06:50Docker 기반의 설치입니다.
00:06:52우리 대부분에게는 솔직히 괜찮지만,
00:06:54다른 사람들에게는
00:06:55진입장벽이 될 수 있죠.
00:06:56앱 하나 다운로드한다고
00:06:59모든 게 바로 작동하는 건 아니니까요.
00:07:00둘째, 아직 초기 프로젝트라서
00:07:03몇몇 부분은 개선 중입니다.
00:07:05그리고 품질은
00:07:06사용하는 모델과 설정에 따라 달라집니다.
00:07:08그래서 솔직한 평가는
00:07:10꽤 간단합니다.
00:07:11Open Notebook이 완벽하진 않습니다.
00:07:12하지만 애초에 완벽한 도구란 없죠.
00:07:14그래서 우리에게
00:07:14이렇게나 많은 도구가 있는 거고요.
00:07:16하지만 나아가는 방향은
00:07:17매우 좋습니다.
00:07:18모두를 위한 건 아니지만,
00:07:19한번 시도해 보세요.
00:07:20셀프 호스팅 기반의
00:07:21연구 환경이 필요하거나,
00:07:23구글에 업로드하고 싶지 않은
00:07:23문서가 있거나,
00:07:25API 위에
00:07:27나만의 워크플로우를 구축하고 싶다면 말이죠.
00:07:30스택은 현대적인 프론트엔드,
00:07:31파이썬 백엔드,
00:07:32SurrealDB,
00:07:33그리고
00:07:34다양한 제공업체와 함께 작동하도록 설계된
00:07:35AI 추상화 계층을 포함합니다.
00:07:37그래서 그저 우리가 사용하는 도구를 넘어
00:07:39실제로 확장할 수 있는 도구처럼
00:07:41느껴질 수 있습니다.
00:07:42이런 코딩 도구들을 좋아하신다면,
00:07:44Better Stack 채널을
00:07:45꼭 구독해 주세요.
00:07:46다음 영상에서 뵙겠습니다.
Community Posts
No posts yet. Be the first to write about this video!
Write about this video