NotebookLM — это инструмент для исследований и ведения заметок с использованием искусственного интеллекта, созданный Google, который использует большие языковые модели (LLM), которые позволяют пользователям добавлять свои собственные источники, а затем с помощью искусственного интеллекта понимать и связывать информацию между этими источниками.
NotebookLM похож на персонализированного помощника с искусственным интеллектом, который работает только с загруженными документами, PDF-файлами, веб-сайтами и видео, чтобы генерировать резюме, отвечать на вопросы, проводить мозговой штурм и преобразовывать контент в другие форматы.
NotebookLM является запатентованной технологией и в настоящее время пользуется невероятной популярностью, но знаете ли вы, что существует версия этой технологии с открытым исходным кодом?
Open Notebook столь же мощный и полезный инструмент, как и NotebookLM. Большая разница в том, что Open Notebook размещается самостоятельно. Хотя оба могут использовать локальные модели AI, локально можно установить только Open Notebook. Если вы беспокоитесь о конфиденциальности и безопасности, изоляция ваших инструментов искусственного интеллекта от локальной сети может стать настоящим бонусом. В отличие от Open Notebook, NotebookLM размещается на сторонних облачных серверах Google, что может вызвать вопросы о конфиденциальности и безопасности.
Open Notebook поддерживает более 16 поставщиков искусственного интеллекта, поэтому вы можете выбрать, какой LLM использовать в соответствии с вашими потребностями, бюджетом и требованиями конфиденциальности.
Если это звучит для вас привлекательно, читайте дальше, потому что я собираюсь показать вам, как развернуть Open Notebook на машине в вашей локальной сети.
Что вам понадобится
Чтобы это работало, вам понадобится компьютер с поддержкой Docker. Если вы хотите использовать одну из проприетарных служб ИИ (например, Google Gemini или OpenAI), вам понадобится ключ API для соответствующей службы.
Я собираюсь показать вам, как развернуть Open Notebook на сервере Ubuntu 24.04. Если вы используете другую ОС, вам придется изменить метод установки Docker, вот и все.
Установка Докера
Первым шагом является установка Docker. Вот как:
1. Добавьте официальный ключ Docker GPG.
Чтобы добавить официальный ключ Docker GPG, используйте следующие команды:
2. Добавьте репозиторий Docker.
Далее вам необходимо добавить репозиторий Docker, что делается с помощью следующей команды:
Обновите apt с помощью:
3. Установите необходимое программное обеспечение.
Теперь вам нужно будет установить все необходимое программное обеспечение с помощью команды:
4. Добавьте своего пользователя в группу Docker.
Вам нужно будет добавить этого пользователя в группу Docker, чтобы избежать запуска Docker с правами администратора. Добавьте своего пользователя в группу Docker с помощью:
Выйдите из системы и войдите снова, чтобы изменения вступили в силу.
Развертывание открытого блокнота
Пришло время развертывания. Сначала клонируйте необходимый репозиторий Git с помощью:
Перейдите во вновь созданный каталог с помощью:
В эту папку вам нужно будет скопировать и переименовать пару файлов с помощью команд:
Вам не придется редактировать файл docker-compose.yml, но вам придется работать с файлом docker.env.
В файле docker.env вам нужно отредактировать несколько строк. Их количество зависит от того, какие сервисы ИИ вы хотите использовать. Допустим, вы хотите использовать Ollama (которая должна быть установлена на локальном компьютере) и Google Gemini.
Первое, что нужно сделать, это найти строку:
Измените 127.0.0.1 на IP-адрес вашего хост-сервера.
Далее найдите строку:
Раскомментируйте эту строку (удалите #) и вставьте свой ключ API Google Gemini, чтобы он выглядел следующим образом:
Убедитесь, что вы используете ключ API, созданный в Google API Studio.
Далее найдите строку:
Вы можете заменить указанный выше IP-адрес адресом хост-сервера, например:
Вы можете просмотреть оставшуюся часть файла и добавить другие API AI, которые вам нужны. Как только вы это сделаете, сохраните и закройте файл.
Вы можете узнать больше о различных моделях и о том, для чего их лучше всего использовать, в этом официальном документе Open Notebook.
Пришло время развернуть контейнер Open Notebook, что делается с помощью:
Дайте контейнеру время раскрутиться, а затем укажите в браузере (где SERVER — IP-адрес хост-сервера).
Вам будет предложено создать учетную запись (это бесплатно, и вся информация остается на локальном сервере). После входа в систему вас встретит главная страница Open Notebook (рис. 1), где вы сможете начать его настройку в соответствии со своими потребностями.
Рис. 1. Пользовательский интерфейс Open Notebook очень удобен для пользователя.
Обязательно сначала перейдите в раздел «Модели», где вы определяете, какие модели будут использоваться для конкретных задач. Сделав это, вы сможете создать свой первый блокнот и приступить к работе.
ТЕНДЕНЦИОННЫЕ ИСТОРИИ YOUTUBE.COM/THENEWSTACK Технологии развиваются быстро, не пропустите ни одной серии. Подпишитесь на наш канал YouTube, чтобы смотреть все наши подкасты, интервью, демонстрации и многое другое. ПОДПИСАТЬСЯ Группа, созданная в Sketch. Джек Уоллен — это то, что происходит, когда разум поколения Икс сливается с современными язвительными взглядами. Джек — искатель истины и писатель слов квантово-механическим карандашом и бессвязным ритмом звука и души. Хотя он проживает… Подробнее от Джека Уоллена
