环境准备
每一个方向都需要一个环境的准备,当然AI安全当然不例外
环境准备¶
安装anaconda
windows¶
打开 Anaconda 官方网站。
在页面右上角选择 用户登录 (Sign In) 或 注册新用户 (Sign Up),登录后即可点击 Free Download 按钮免费下载适合你操作系统的 Anaconda 安装包。
后面正常安装即可,并没有什么麻烦的地方。
安装完成之后,开一个终端输入
查看版本是否和安装的相符,如果相符合,说明安装成功。
linux¶
查看Linux系统内核¶
Linux系统内核有两种,一种为arch64,另一种为X86_64
使用命令uname -a 查看系统内核
下载地址如下:
在控制台输入
下载完输入
开始安装,一直enter ,yes 直到安装完
点击enter,等待安装完成之后。
配置Anaconda环境¶
打开/etc/profile
在末尾添加环境变量
如果你使用的是bash,那么打开 ~/.bashrc,如果使用的是zsh,那么就打开zsh的配置
这里给出是bash的方法,zsh同样适用。
在末尾添加环境变量
刷新环境变量或者新开一个终端
输入conda -V,出现conda xx.xx 安装成功。
Anaconda 命令¶
在windows中,如果想要安装的虚拟环境在anaconda安装目录下,需要Anaconda Powershell Prompt以管理员身份运行。
查看Conda版本
创建新环境
- 作用:创建一个名为
myenv的新虚拟环境,并指定使用 Python 3.8 版本。每个环境可以独立安装不同的包和 Python 版本,不会相互干扰。
激活环境
- 作用:激活您创建的虚拟环境
myenv。激活后,您可以在该环境中安装库或运行 Python 程序。
查看已有的虚拟环境
- 作用:列出系统中所有已创建的虚拟环境,方便查看和管理环境。
退出当前环境
- 作用:退出当前激活的虚拟环境,返回 base 环境
删除虚拟环境
Ollama¶
在现在新版的ollama中安装是安装到默认位置的,如果你的C盘足够大,那么你可以选择安装的位置为默认。
即可更改安装地址,当然安装的model也是在默认的位置,可以在环境变量里面设置下路径,将下载的模型放到其他盘。
Ollama命令¶
Ollama 提供了多种命令行工具(CLI)供用户与本地运行的模型进行交互。
基本格式:
- serve:启动 ollama 服务。
- create:根据一个 Modelfile 创建一个模型。
- show:显示某个模型的详细信息。
- run:运行一个模型。
- stop:停止一个正在运行的模型。
- pull:从一个模型仓库(registry)拉取一个模型。
- push:将一个模型推送到一个模型仓库。
- list:列出所有模型。
- ps:列出所有正在运行的模型。
- cp:复制一个模型。
- rm:删除一个模型。
- help:获取关于任何命令的帮助信息。
拉取与删除模型
删除本地模型
列出所有本地模型
交互模式运行模型,不退出
可带系统信息与 prompt
generate 执行单次推理,输出文本
创建与修改模型
用 Modelfile 创建本地模型
Modelfile 指令
构建模型时使用:
- FROM
:基础模型 - SYSTEM "xxx":设定系统提示
- PARAMETER key=value:设定默认参数
- TEMPLATE "xxx":自定义 Chat 模板
- LICENSE "xxx":设置 License
- ADAPTER
/ WEIGHTS :加载 LoRA 或额外权重