凌晨两点十七分,枕边的手机震动划破寂静。半梦半醒的创业者小李眯着眼摸过床头的手机,锁屏界面上一条告警通知短信让他瞬间清醒:“... 接用户举报,您的主机内容涉嫌诈骗,请您立即停止上述行为并在二十四小时内排查整改,如逾期未处理或再次收到举报,... 将对您的产品进行关停或账号进行清退。” 他猛然坐起,后颈渗出的冷汗浸湿了睡衣 —— 那台承载着全部创业希望的服务器,此刻正在千里之外某 IDC 机房里源源不断自动生成着诈骗话术,恶意流量已悄然奔涌了半月有余。
事情要从一个月前说起。彼时国产大模型 DeepSeek-R1 突然引爆社交平台,在铺天盖地的演示视频中,视频里博主简单的输入不知从哪儿找到的烧脑问题,DeepSeek-R1 “思考” 几秒后即刻吐出流畅的回答,逻辑清晰完整,内容面面俱到,还有点小幽默风趣,弹幕瞬间被 “国产之光”,“暴打 GPT” 等溢美之词淹没。
“这不就是为我准备的东风吗?” 小李猛地坐起身,泡面汤溅在不怎么干净的出租屋地板上。在四季青服装市场摸爬滚打十年的他,太清楚一个能写营销文案、回答各种奇葩问题咨询的 AI 意味着什么。凌晨三点,望着浏览器里一整排《保姆级 DeepSeek 本地化部署部署教程》窗口,终于颤巍巍点开 Ollama 官网 —— 那只黑色线条羊驼仿佛在对他微笑。望着浏览器窗口显示的 “Ollama is running”,这是一个被 AI 光芒照亮的夜晚。
接下来的两小时成了小李的技术涅槃。他对照视频教程截图,像小学生描红般精确移动鼠标,甚至照着视频里博主敲的乱码,在 CMD 窗口逐字输入 “ollama run deepseek-r1:14b”。当黑色对话框终于跳出 “你好,我是 DeepSeek-R1” 时,窗外的晨光正爬上他布满血丝的眼角。
“还是太慢了,要搞就搞大的!” 三天后,老李咬牙租下教程博主推荐的某云平台豪华版服务器。这次部署过程顺利得反常,Ollama 像只驯良的电子犬,摇着尾巴把大模型驮进新家。但他不知道的是,这个看似贴心的工具,早已在系统深处埋下一颗定时炸弹 —— 它悄无声息地监听着所有访客的请求,就像一只极度温顺的小萌狗,只需过路的人往洞口扔块骨头,就能大摇大摆抱起来蹂躏一番。
后来,小李的朋友在服务器日志里还原了攻击过程:几周前,一队自动化扫描程序摸到了小李的服务器。这些网络世界的游荡者专找开着 11434 端口的设备,就像小偷专挑没拔钥匙的汽车。短短几分钟后,黑客便开始频繁调用 Ollama 的外部接口生成无数条虚假话术,更狡猾的是,他们通过境外代理服务器伪造了请求来源,精心控制着访问频率。当受骗的用户举报到云平台时,所有线索都指向了李某本人。
---------------
或许这种事情本不该发生,就像上面的所有内容是作者瞎编的那样,它确实没有真实发生过;又或许,类似的事情它就发生在大家周围。
其实,很多教程只会告诉你怎样去做,而不会告诉你为何这样做以及这样做有什么后续影响。就像很多保姆级小白教程从未提到 Ollama 会默认将服务绑定在 ‘0.0.0.0:11434’。翻译一下:你在自家客厅装了台自助饮料机,却忘记关闭了大门。想象一下,当你在厨房忙碌的时候,任何路过的人不仅能偷偷进来免费畅饮,还能往饮料里投毒 —— 这就是 Ollama 默认配置带来的危险。
当你在自己电通过本地 Ollama 部署时,大概率并不会出现上面的情况,因为电信运营商大概率没有为你分配公网 IP 地址,其他人很难白嫖到你本地部署的大模型服务。就像小区里的保安一样,他们早已将想要进入小区的非法分子阻挡在外。但是在普遍可以使用公网 IP 访问的服务器上呢?这里只有你自己在意家里来的是客人还是土匪。
---------------
打开浏览器访问 FOFA 网络空间测绘平台(https://fofa.info/),在搜索框粘贴下面这条搜索指令:
"Ollama is running" && country="CN"
你会看到触目惊心的结果:截至这篇文章发布时,有超过 11,200 台中国境内的设备正在运行 Ollama,即使 90% 的设备已采取防火墙等手段进行防护,仍然有一千余台设备正在被全网白嫖。
只需在搜索结果后加上 ‘/api/tags’,就能像查看餐厅菜单一样获取所有模型清单。
只需在搜索结果后加上 ‘/api/pull’,攻击者能直接下载你的私有模型,整个过程就像有人拿着 U 盘插进你电脑,直接复制机密文件:
curl http://公网IP:11434/api/pull -d '{"name":"你的模型名称"}'
此外,当不法分子通过调用接口生成违法内容并接入到他们的非法网站时,由于所有输出结果都来自你的设备,网警溯源会直接通过 IP 地址找到你。就像有人用你手机卡发送诈骗短信,坏人逍遥法外,你却需要为他背锅。
那么怎么防范上面的这些情况呢?最简单的方法,既然有坏人,只需要把坏人挡在外面就行了,设置防火墙,将自己的常用 IP 加入白名单,其他的访客统统禁止访问。又或者使用反向代理等工具,雇佣一个信任的保安,让它帮你时刻阻挡非法闯入者。具体怎么做呢?或许聪明的你可以直接询问几近万能的 DeepSeek 寻求帮助!
---------------
本地部署大模型是 AI 普惠化的重要一步,但安全防护不可忽视。当你在深夜赞叹本地部署大模型的伟大时,不妨多花十分钟做三件事:用防火墙锁死非必要端口,设置密钥口令给 API 接口加上双重认证,定期检查访问日志里是否有异常记录,别让你的算力成为他人的 “免费午餐”!