LibreChat؛ رابط گفت‌وگوی هوش مصنوعی چندکاربره روی سرور خودتان

استفاده‌هایی که LibreChat برایشان طراحی شده است:

نصب خودکار در مرحلهٔ سفارش سه سرویس را با Docker Compose کنار هم اجرا می‌کند. هیچ‌کدام از سرویس‌های داخلی پورتی به بیرون منتشر نمی‌کنند و فقط LibreChat روی پورت ۸۰ سرور در دسترس است:

لازم نیست LibreChat را دستی نصب کنید. در گام دوم سفارش سرور ابری، تب اپلیکیشن‌ها را باز کنید و LibreChat را انتخاب کنید؛ Ubuntu 22.04 خودکار انتخاب می‌شود و نصب پس از روشن‌شدن سرور شروع می‌شود. اسکریپت نصب Docker و افزونهٔ Compose را نصب می‌کند، با openssl سه کلید تصادفی ۶۴ کاراکتری برای JWT_SECRET‏، JWT_REFRESH_SECRET و CREDS_KEY و یک مقدار ۳۲ کاراکتری برای CREDS_IV می‌سازد و آن‌ها را در فایل‌های /etc/librechat-jwt، /etc/librechat-jwt-refresh، /etc/librechat-cred-key و /etc/librechat-cred-iv نگه می‌دارد.

سپس در /opt/librechat فایل docker-compose.yml را با سه سرویس بالا می‌نویسد: پورت ۸۰ سرور به پورت ۳۰۸۰ LibreChat وصل می‌شود، MONGO_URI و MEILI_HOST به سرویس‌های داخلی اشاره می‌کنند، SEARCH روشن است و ثبت‌نام با ایمیل باز می‌ماند تا اولین حساب مدیر ساخته شود. برای Ollama احتمالی روی خود سرور، آدرس host.docker.internal روی پورت ۱۱۴۳۴ هم تعریف می‌شود. نصب پس از بالا آمدن سرویس LibreChat، نشانی ورود را در تب اپلیکیشن صفحهٔ سرور نمایش می‌دهد.

قواعد فایروال سرور هم خودکار تنظیم می‌شوند: پورت ۸۰ برای HTTP و پورت ۴۴۳ برای HTTPS بعدی باز می‌شوند و پورت‌های MongoDB و Meilisearch اصلاً منتشر نمی‌شوند. اگر خواستید بعداً قاعدهٔ دیگری اضافه کنید یا نصب را بررسی کنید، از تب فایروال سرور یا فایروال شبکه و همین فایل Compose کمک بگیرید. کار شما پس از نصب سه چیز است: ساخت حساب مدیر، بستن ثبت‌نام و تعریف سرویس مدل.

LibreChat رایگان است و نصب خودکارش هم هزینهٔ جداگانه ندارد. LibreChat از پلن standard به بالا در فهرست اپلیکیشن‌های سفارش دیده می‌شود. اگر مدل روی سرویس بیرونی اجرا می‌شود، سرور فقط رابط، MongoDB و Meilisearch را اجرا می‌کند و پلن standard برای یک تیم کوچک کافی است؛ با رشد کاربران و تاریخچه، plus جای بیشتری برای دیتابیس و نمایهٔ جست‌وجو می‌دهد. هزینهٔ سرویس مدل بیرونی جدا و بر عهدهٔ شماست.

اگر می‌خواهید مدل را با Ollama روی همین سرور اجرا کنید، حساب فرق می‌کند: مدل‌های زبانی کوچک هم چند گیگابایت حافظه می‌گیرند و روی CPU کند پاسخ می‌دهند. پلن pro با هشت گیگابایت حافظه و چهار هسته حداقل معقول برای آزمایش مدل‌های کوچک است. برای جمع هزینه‌ها از ماشین‌حساب هزینه استفاده کنید.

هر دو رابط متن‌باز گفت‌وگو با مدل‌های زبانی‌اند، اما تمرکزشان فرق دارد:

بزرگ‌ترین خطر یک LibreChat عمومی، استفادهٔ ناخواسته از مدل‌هایی است که به هزینهٔ شما وصل شده‌اند. پس از ساخت حساب‌های لازم، ALLOW_REGISTRATION را خاموش کنید و کاربران تازه را فقط با ابزار مدیریت کاربر بسازید. کلیدهای JWT و CREDS را منتشر نکنید؛ تغییر CREDS_KEY یا CREDS_IV کلیدهای ذخیره‌شدهٔ کاربران را غیرقابل استفاده می‌کند.

نصب پایه روی http است و رمزها و پیام‌ها بدون رمزنگاری جابه‌جا می‌شوند. زیردامنه‌ای مثل chat.example.com را در مدیریت DNS بسازید و پشت پروکسی لبه قرار دهید تا اتصال با گواهی SSL رمزگذاری شود؛ LibreChat روی پورت ۸۰ سرور در دسترس است و پروکسی به همین پورت وصل می‌شود.

MongoDB و Meilisearch در این پیکربندی رمز ندارند و فقط چون پورتشان منتشر نشده امن‌اند. اگر Ollama را روی میزبان برای شبکهٔ Docker باز می‌کنید، مطمئن شوید پورت ۱۱۴۳۴ در فایروال سرور برای بیرون بسته است؛ با ابزار بررسی پورت امتحان کنید.

مهم‌ترین داده، دیتابیس MongoDB است که کاربران و همهٔ گفت‌وگوها را نگه می‌دارد. با mongodump داخل سرویس mongodb خروجی منظم بگیرید و همراه پوشهٔ uploads و فایل‌های کلید بیرون از سرور نگه دارید. نمایهٔ Meilisearch را می‌شود دوباره ساخت و نیازی به بکاپ جدا ندارد.

بکاپ کامل سرور را هر وقت لازم بود از تب بکاپ پنل بسازید؛ بکاپ خودکار زمان‌بندی‌شده برای سرور ابری فعال نیست و فضای بکاپ ساعتی ۲ تومان به ازای هر گیگابایت حساب می‌شود. جزئیات در صفحهٔ پشتیبان‌گیری. کاربران هم می‌توانند گفت‌وگوهای خود را از رابط LibreChat خروجی بگیرند یا خروجی‌های پشتیبانی‌شده را وارد کنند.

نصب خودکار LibreChat را روی http و IP سرور بالا می‌آورد؛ دامنه و گواهی SSL را خودتان اضافه می‌کنید. نصب خودکار هیچ مدلی را از پیش وصل نمی‌کند؛ بدون تعریف یک سرویس مدل، رابط خالی است. پلن‌های سرور ابری GPU ندارند، پس اجرای مدل محلی روی CPU کند است و برای استفادهٔ روزمرهٔ یک تیم مناسب نیست.

ایمیج LibreChat با برچسب latest به‌روز می‌شود و پروژه سریع تغییر می‌کند؛ پیش از به‌روزرسانی از MongoDB بکاپ بگیرید و یادداشت انتشار را بخوانید، چون گاهی نام متغیرها یا ساختار پیکربندی عوض می‌شود.