首页
关于
Search
1
Ubuntu WSL 中 Ollama 和 OpenWebUI 的安装与配置指南
108 阅读
2
利用WSL进行AI本地化部署的一些优势
32 阅读
3
Windows 11如何安装WSL?AI潮流时代它很有用途
23 阅读
4
Windows 11 安装 WSL 的详细指南
20 阅读
5
欢迎使用 Typecho
16 阅读
默认分类
AI应用
AI部署
AI资源
网络资源
登录
Search
标签搜索
wsl
孤风
累计撰写
7
篇文章
累计收到
4
条评论
首页
栏目
默认分类
AI应用
AI部署
AI资源
网络资源
页面
关于
搜索到
7
篇与
的结果
2025-02-11
清华大学《DeepSeek:从入门到精通》
《DeepSeek:从入门到精通》是一本由清华大学新闻与传播学院新媒体研究中心元宇宙文化实验室余梦珑博士后及其团队编写的全面指导手册,旨在帮助用户深入了解并掌握DeepSeek这一人工智能工具的使用方法和应用场景。以下是关于该书的详细信息:1. 书籍背景与作者本书由清华大学新闻与传播学院新媒体研究中心元宇宙文化实验室编写,核心作者包括余梦珑博士后及其团队成员。他们通过深入研究和实践,为读者提供了从基础到高级的全方位学习资源。2. 内容概述《DeepSeek:从入门到精通》共104页,内容涵盖DeepSeek的核心功能、应用场景、使用方法以及提示语设计等多个方面。书中详细介绍了以下内容:DeepSeek的基本功能:包括文本生成、自然语言理解、编程支持、数据可视化等。使用指南:如何访问平台、联网搜索、文件上传等操作步骤。提示语设计:提示语的基本结构、优化技巧及策略。进阶应用:提示词工程、框架搭建、三重概率模型等高级技巧。实际案例:涵盖智能办公、教育辅助、商业分析、客户服务等多个领域。3. 目标读者本书适合以下几类人群:AI初学者:通过本书可以快速了解DeepSeek的基本概念和操作方法。专业人士:如研究人员、学生、企业职员等,利用DeepSeek提升工作效率和创新能力。技术爱好者:希望深入学习AI技术并应用于实际场景的用户。4. 特色亮点全面性:书中不仅覆盖了基础功能,还深入探讨了提示语设计和AI进阶使用。实用性:通过大量案例分析,帮助用户更好地理解和应用DeepSeek。免费资源:本书为PDF格式,免费提供下载,方便用户随时查阅。5. 相关资源除了书籍本身,清华大学还提供了配套的视频教程和PPT资源,帮助用户更直观地学习DeepSeek的原理和使用方法。6. 总结《DeepSeek:从入门到精通》是一本极具价值的学习指南,它不仅帮助用户快速掌握DeepSeek的使用技巧,还通过丰富的案例和进阶内容,为用户提供了一个深入探索AI技术的平台。无论是AI新手还是资深用户,都可以从中获得实用的知识和技能。如果您对AI技术感兴趣,这本书无疑是值得推荐的学习资源。下载:清华大学104页《DeepSeek:从入门到精通》.pdf
2025年02月11日
14 阅读
0 评论
1 点赞
2025-01-29
Ubuntu WSL 中 Ollama 和 OpenWebUI 的安装与配置指南
Ubuntu WSL 中 Ollama 和 OpenWebUI 的安装与配置指南随着人工智能技术的快速发展,本地部署大模型已经成为许多开发者追求的目标。在 Ubuntu 系统中,结合 Windows 子系统 for Linux(WSL)可以无缝集成 Linux 操作系统,从而方便地安装和使用基于 Linux 的开源 AI 工具链。本文将详细指导如何在 Ubuntu WSL 中安装 Ollama 和 OpenWebUI,并完成对大模型的本地化部署。背景知识WSL 简介Windows 子系统 for Linux(WSL)是微软为 Windows 用户量身定制的工具包,允许用户在 Windows 系统中运行基于 Linux 的操作系统。通过 WSL,开发者可以使用熟悉或需要的 Linux 工具链进行开发和部署。OllamaOllama 是 Meta 推出的一个开源大语言模型推理框架,支持本地化部署。它可以通过 WebUI(Web User Interface)界面提供交互体验,并且能够集成到各种应用中使用。OpenWebUIOpenWebUI 是一个基于 HTML、CSS 和 JavaScript 的开源 Ollama 实例服务(OAS)前端,提供了友好的用户界面,方便用户进行模型推理的配置和操作。安装准备在 Ubuntu 中运行 WSL 前,请确保以下环境配置已准备好:操作系统:安装 Ubuntu 22.04 LTS 或更高版本。必要硬件支持:确保电脑配备适当的 GPU(推荐使用 RTX 系列)和足够的内存(通常至少 8GB),以支持大模型的推理性能。Ubuntu WSL 中 Ollama 和 OpenWebUI 的安装与配置安装 Ubuntu WSL如果尚未安装 WSL,请按照以下步骤进行:打开终端。运行命令 wsl install 加载默认软件包。确保添加了 WSL 包,并在控制台中运行以确认安装。安装 Ollama要安装 Ollama,请运行以下命令:curl -fsSL https://ollama.com/install.sh | sh如果发现网络问题下载不下来:wget https://ollama.com/install.sh #下载到当前目录 chmod +x install.sh #给予执行权要 ./install.sh #运行脚本程序如果上述方法都无法解决问题,可以尝试手动下载安装脚本:打开浏览器,访问https://ollama.com/install.sh,将页面内容复制到本地文件 install.sh中。保存文件后,使用终端进入文件所在目录,运行以下命令:bash复制chmod +x install.sh ./install.sh通过这些方法,你应该能够解决下载速度慢的问题,顺利安装Ollama。手动安装注意如果要从以前的版本升级,则应使用 first 删除旧库。sudo rm -rf /usr/lib/ollama下载并解压缩包,不用脚本下载和安装方法:#命令下载 curl -L https://ollama.com/download/ollama-linux-amd64.tgz -o ollama-linux-amd64.tgz #直接到ollama的github网站下载压缩包 sudo tar -C /usr -xzf ollama-linux-amd64.tgz #运行解压安装命令启动 Ollama:ollama serve在另一个终端中,验证 Ollama 是否正在运行:ollama -vAMD GPU 安装如果您有 AMD GPU,还要下载并解压缩其他 ROCm 软件包:curl -L https://ollama.com/download/ollama-linux-amd64-rocm.tgz -o ollama-linux-amd64-rocm.tgz sudo tar -C /usr -xzf ollama-linux-amd64-rocm.tgzARM64 安装下载并解压缩特定于 ARM64 的包:curl -L https://ollama.com/download/ollama-linux-arm64.tgz -o ollama-linux-arm64.tgz sudo tar -C /usr -xzf ollama-linux-arm64.tgz将 Ollama 添加为启动服务(推荐)为 Ollama 创建用户和组:sudo useradd -r -s /bin/false -U -m -d /usr/share/ollama ollama sudo usermod -a -G ollama $(whoami)在 中创建服务文件 :/etc/systemd/system/ollama.service[Unit] Description=Ollama Service After=network-online.target [Service] ExecStart=/usr/bin/ollama serve User=ollama Group=ollama Restart=always RestartSec=3 Environment="PATH=$PATH" [Install] WantedBy=default.target然后启动服务:sudo systemctl daemon-reload sudo systemctl enable ollama卸载删除 ollama 服务:sudo systemctl stop ollama sudo systemctl disable ollama sudo rm /etc/systemd/system/ollama.service从 bin 目录中删除 ollama 二进制文件(、 、 或 ):/usr/local/bin/usr/bin`/bin`sudo rm $(which ollama)删除下载的模型以及 Ollama 服务用户和组:sudo rm -r /usr/share/ollama sudo userdel ollama sudo groupdel ollama安装 OpenWebUI通过 Python pip 🐍 安装Open WebUI 可以使用 Python 包安装程序 pip 进行安装。在继续之前,请确保您使用的是 Python 3.11 以避免兼容性问题。安装 Open WebUI: 打开终端并运行以下命令以安装 Open WebUI:pip install open-webui运行 Open WebUI: 安装后,您可以通过执行以下命令来启动 Open WebUI:open-webui serve这将启动 Open WebUI 服务器,您可以在 http://localhost:8080通过Docker 🐳 快速安装注意请注意,对于某些 Docker 环境,可能需要其他配置。如果您遇到任何连接问题,我们关于 Open WebUI 文档的详细指南已准备好为您提供帮助。警告使用 Docker 安装 Open WebUI 时,请确保在 Docker 命令中包含 。此步骤至关重要,因为它可以确保您的数据库正确挂载并防止任何数据丢失。-v open-webui:/app/backend/data提示如果您希望使用包含 Ollama 或 CUDA 加速的 Open WebUI,我们建议您使用带有 或 的官方图像。要启用 CUDA,您必须在 Linux/WSL 系统上安装 Nvidia CUDA 容器工具包。:cuda:ollama使用默认配置安装如果 Ollama 在您的计算机上,请使用以下命令:docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main如果 Ollama 位于其他服务器上,请使用以下命令:要连接到另一台服务器上的 Ollama,请将 更改为服务器的 URL:OLLAMA_BASE_URLdocker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main要运行支持 Nvidia GPU 的 Open WebUI,请使用以下命令:docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda注意事项确保依赖项正确安装:确保所有依赖项如 cuDNN、OpenCV 和 Python 包已正确安装并可用。检查 GPU 驱动:确保所有 GPU 设备的驱动程序已更新到最新版本,并且在 OpenWebUI 中能够正确识别。禁用防火墙或设置安全组:如果使用私有 URL,建议暂时关闭防火墙以避免被拦截。更新软件包:定期运行 sudo apt update && sudo apt upgrade 来确保所有软件包是最新的。结论通过以上步骤,在 Ubuntu WSL 中可以顺利安装并配置 Ollama 和 OpenWebUI,从而实现本地化部署大模型的能力。这种方法不仅节省了对公共云服务的依赖,还能够更灵活地调整模型参数和硬件资源以提升推理性能。对于希望在本地环境中运行 AI 模型的开发者来说,这种配置方案是一个高效且易于操作的选择。此外,还可以根据需求选择其他开源 AI 框架,如 Meta 的 LLMToolbelt 或者深度求索的 QwenEE,以满足不同的项目需求和场景。
2025年01月29日
108 阅读
0 评论
1 点赞
2025-01-29
利用WSL进行AI本地化部署的一些优势
在Windows系统中利用WSL进行AI本地化部署在现代科技发展进程中,人工智能(AI)的应用日益广泛,其对性能和效率的要求越来越高。尽管云服务为开发者提供了便利的AI模型部署和运行环境,但有时本地化的AI开发和部署能够带来更灵活、更低资源消耗的解决方案。本文将探讨如何利用Windows Subsystem for Linux (WSL) 在Windows系统中安装Linux子系统,并分析其在AI本地化部署中的优势。WSL是什么?Windows Subsystem for Linux 是微软推出的工具包,允许用户在Windows电脑上运行基于Linux的操作系统。它提供了Linux的大部分功能和特性,同时保持了Windows的稳定性和熟悉性。通过WSL,开发者可以将Linux的软件生态系统无缝地融入到现有的Windows环境中。为什么使用WSL进行AI本地化部署?平滑过渡:利用现有知识如果用户已经习惯了Windows环境,使用WSL可以让其现有的知识和技术栈在AI开发中得到应用。这对于加速Transition到Linux生态具有重要意义。开发者的灵活性和控制权本地化的AI模型部署能够使开发者更灵活地调整模型参数、优化性能,并通过硬件资源进行精确的优化,进而提升推理速度。使用WSL的优点提供Linux环境下的高效工作流程使用WSL可以安装基于Linux的工具和框架。例如,TensorFlow 和 PyTorch 等广泛使用的AI框架在WSL中能够顺利运行,并与本地开发工具集成。节省带宽和延迟本地构建和部署模型减少了对公共云服务的依赖,减少了数据传输带来的延迟,从而加快了AI模型的开发和部署速度。增强性能通过本地优化工具链和框架,开发者可以更高效地进行AI模型的训练和推理,提升整体性能。WSL安装指南(简要)准备环境:安装WSL包首先在Windows系统中添加WSL包。可以通过执行WSL\bin\Get-InstallPath.exe来获取安装路径。安装软件打开WSL控制台(PowerShell),然后使用wsl install <windows package>命令安装所需的软件,如TensorFlow、PyTorch等。配置开发环境根据需要设置必要的开发工具和环境变量。确保本地编译器和支持的库能够正确配置,以支持AI框架的需求。WSL与虚拟机的区别虽然WSL 和虚拟机都提供Linux环境在Windows上运行,但WSL更为集成,无需额外的硬件配置即可使用,且可以更自然地与Windows应用无缝衔接。总结微软的Windows Subsystem for Linux 为开发者提供了本地化AI开发和部署的强大工具。它利用现有知识,提供了高效的工作流程,并减少了对公共云服务的依赖,从而加速了模型开发和部署的速度。对于希望将AI能力融入现有Windows环境的开发者来说,WSL 是一个强有力的选择。如何部署?请阅读这里--->Ubuntu WSL 中 Ollama 和 OpenWebUI 的安装与配置指南 - 孤风博客
2025年01月29日
32 阅读
0 评论
0 点赞
2025-01-27
Windows 11 安装 WSL 的详细指南
Windows 11 安装 WSL 的详细指南一、前言Windows Subsystem for Linux (WSL) 是微软在 Windows 系统中引入的一项功能,它允许用户在 Windows 环境下运行 Linux 发行版,无需进行复杂的虚拟化设置。这对于开发人员来说尤其有用,因为它提供了与 Linux 系统相似的开发环境,同时又能充分利用 Windows 系统的资源。本文将详细介绍如何在 Windows 11 系统中安装 WSL,帮助你快速搭建一个高效的开发环境。二、安装步骤1. 启用 WSL 功能打开 PowerShell,以管理员身份运行。输入以下命令并回车,以启用 WSL 功能:powershell复制dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart系统会自动安装相关组件,完成后无需重启。2. 启用虚拟机平台功能在 PowerShell 中输入以下命令并回车,以启用虚拟机平台功能:powershell复制dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart安装完成后,重启计算机以完成设置。3. 安装 WSL 2 内核更新包访问 WSL 2 内核更新包下载页面,下载最新的 WSL 2 内核更新包。双击下载的文件进行安装,按照提示完成安装过程。4. 设置 WSL 2 为默认版本打开 PowerShell,输入以下命令并回车,将 WSL 2 设置为默认版本:powershell复制wsl --set-default-version 25. 安装 Linux 发行版打开 Microsoft Store,搜索并选择你想要安装的 Linux 发行版,例如 Ubuntu、Debian 等。点击 获取 按钮进行安装,安装完成后,首次启动时需要设置用户名和密码。三、验证安装打开 开始 菜单,找到并启动你安装的 Linux 发行版。在终端中输入以下命令,验证 WSL 是否正常工作:bash复制lsb_release -a如果显示了 Linux 发行版的版本信息,说明 WSL 安装成功。四、常见问题及解决方法1. WSL 无法启动确保已正确安装 WSL 2 内核更新包。检查是否已将 WSL 2 设置为默认版本。2. 文件权限问题在 WSL 中,文件权限与 Windows 系统有所不同,可以通过 chmod 命令修改文件权限。3. 网络连接问题确保 Windows 防火墙未阻止 WSL 的网络连接。检查网络设置,确保 WSL 能够访问外部网络。五、总结通过以上步骤,你可以在 Windows 11 系统中轻松安装并使用 WSL,享受 Linux 系统的强大功能。WSL 为开发人员提供了一个灵活、高效的开发环境,无论是进行 Web 开发、数据科学还是其他领域的开发工作,都能满足你的需求。希望本文对你有所帮助,祝你在开发道路上一帆风顺!
2025年01月27日
20 阅读
1 评论
0 点赞
2025-01-27
Windows 11如何安装WSL?AI潮流时代它很有用途
Windows 11如何安装WSL在Windows 11上安装Windows Subsystem for Linux(WSL)可以让你在Windows环境中运行Linux发行版及其应用程序,无需双系统或虚拟机。本文将详细介绍如何在Windows 11上安装WSL。一、准备工作1. 确保系统已更新在安装WSL之前,请确保你的Windows 11系统已更新到最新版本。这可以通过“设置”>“更新与安全”>“Windows更新”进行检查和更新。2. 启用虚拟化WSL依赖于虚拟化技术,因此你需要确保电脑的虚拟化功能已启用。这通常可以在BIOS设置中进行。不同品牌的电脑进入BIOS的方法可能不同,例如惠普笔记本可以在启动后按F10进入。在BIOS中,找到并启用VT-x或AMD-V虚拟化技术。此外,你还需要在Windows功能中启用“虚拟机平台”和“Windows子系统 for Linux”:打开“控制面板”,选择“程序”,点击“启用或关闭Windows功能”。在弹出的窗口中,勾选“虚拟机平台”和“Windows子系统 for Linux”。对于家庭版Windows 11,如果找不到“虚拟机平台”选项,可以通过运行特定的脚本来安装Hyper-V,进而启用该选项。二、安装WSL1. 使用PowerShell安装WSL打开PowerShell(以管理员身份运行),并输入以下命令来安装WSL:wsl --install这个命令将自动启用WSL并安装默认的Linux发行版(通常是Ubuntu)。如果你想选择特定的Linux发行版,可以先查看可用的发行版列表:wsl --list --online然后安装所需的发行版:wsl --install -d <DistributionName>将<DistributionName>替换为你想要安装的Linux发行版的名称。2. 手动设置WSL版本默认情况下,WSL 2是优先使用的版本。如果你需要手动设置默认版本,可以使用以下命令:wsl --set-default-version 23. 检查安装状态安装完成后,你可以使用以下命令检查WSL和已安装的Linux发行版的状态:wsl --list --verbose三、首次启动与配置安装完成后,你可以通过命令直接运行Linux发行版。例如,启动Ubuntu:ubuntu首次启动新安装的Linux发行版时,将打开一个控制台窗口,并要求你设置用户名和密码。按照提示进行设置即可。四、WSL的常见应用场景WSL的应用场景非常广泛,尤其对于开发者和系统管理员而言。以下是一些常见的应用场景:Web开发:在本地环境中运行完整的Linux开发堆栈(如LAMP或MEAN)。跨平台开发:开发和测试Linux特定的应用程序或脚本,而无需离开Windows环境。容器化应用:与Docker结合使用,通过WSL 2的改进,可以直接在Windows上使用Docker Desktop来管理Linux容器。自动化任务:使用Linux命令行工具和脚本(如Bash、Python、Perl等)自动化系统管理任务。网络工具:使用Linux的各种网络诊断和调试工具(如cURL、wget、netcat等)。学习Linux:在Windows环境中学习和实验Linux命令行和工具,而无需额外的硬件或复杂的设置。五、注意事项在安装和使用WSL时,如果遇到兼容性问题或错误,请确保你的Windows版本已更新到最新版本,并且已正确启用虚拟化技术。使用WSL 2时,避免频繁在Windows和WSL文件系统之间进行大量小文件操作,这可能会影响文件系统性能。如果无法访问互联网,请检查WSL中的网络设置,确保与主机的网络连接正常。通过以上步骤,你可以在Windows 11上成功安装并配置WSL。WSL为开发者和系统管理员提供了一种强大的工具,能够在不离开Windows环境的情况下使用Linux命令行和工具。希望这篇文章能帮助你更好地理解和使用WSL!
2025年01月27日
23 阅读
0 评论
0 点赞
1
2