找到服务配置文件

vim /etc/systemd/system/ollama.service

解决 iptables DNAT 无法转发到 127.0.0.1 的问题及安全风险分析

一、问题场景

在服务器运维中，我们可能会遇到一个特殊的需求：服务器上有一个服务（如Nginx、Tomcat）监听在本地回环地址（127.0.0.1）的某个端口上（如 8080），但我们希望通过服务器的公网或内网IP的另一个端口（如 80）来访问这个服务。

典型场景:

• 服务器IP: 192.168.30.177 (对外)
• 服务监听: 127.0.0.1:8080
• 目标: 外部用户访问 http://192.168.30.177:80 时，请求能被正确转发到 127.0.0.1:8080 上的服务。

构建大模型需要考虑的因素归一化方法、位置编码、激活函数、注意力计算

层数L、注意力头数N、特征维度N

归一化方法

为什么要做归一化?

• 不同特征在空间中的尺度不同，对损失优化的影响不一致
  特征尺度差异会导致损失函数各方向的梯度下降速度不同。尺度大的特征梯度更新剧烈，迫使模型花费更多迭代次数调整其他特征权重，降低优化效率。

• 提升训练稳定性，加速模型收敛
  归一化使所有特征处于相近的数值范围（如[0,1]或[-1,1]）。这使优化路径更平滑，梯度更新方向更稳定，减少震荡风险，从而加快模型收敛速度。

通过脚本批量修改Git提交历史中的作者姓名和邮箱：

bash <(curl -s https://www.geekery.cn/sh/LinuxCTS/tools/git_change_author.sh)

基本启动命令

在PowerShell中直接运行以下命令启动Git Bash：

& 'C:/Program Files/Git/bin/sh.exe' --login

使用以下命令可以一键安装OpenVPN：

curl -sSL https://www.geekery.cn/sh/LinuxCTS/tools/openvpn-install.sh | bash

Why Attention?

搜索场景

在搜索场景中，人们的目光往往会更加关注左上角的三角区域（即第一条搜索结果的位置)

阅读中

浏览图文信息

注意力机制

注意力机制，可以视为一致基于相似度的查表

核心模块： 注意力

• Transformer完全抛弃传统的CNN和RNN，整个网络结构完全由注意力机制组成

编码器-解码器结构

• 编码器将输入序列变换为隐藏层特征
• 解码器将隐藏层特征变换为输出序列

Mineru

MinerU是一个将PDF转换为机器可读格式的工具（例如，markdown，JSON），允许轻松提取为任何格式。

https://github.com/opendatalab/MinerU/blob/master/README.md

GPT系列模型成体系推进