手撕损失函数:交叉熵(CE / BCE)
从信息量、信息熵与 KL 散度出发,推导交叉熵,并梳理 BCE 与 CE 的区别。

You are the cloud, the sea, oblivion. You are also each self you have lost.
— Jorge Luis Borges, Clouds
从信息量、信息熵与 KL 散度出发,推导交叉熵,并梳理 BCE 与 CE 的区别。
Transformer 核心组件的数学推导与直觉解释
文献随记
transformer原理与基本架构
精读 CoOp 如何把 CLIP 的手写 prompt 转成可学习上下文,作为 Prompt Learning 的起点。
从 PromptFL、FedSR、SHOT 三条线梳理 FedDG / CLIP 训练场的论文地基。
把 Domain Adaptation 放回 AI 全景图中,记录早期科研方向选择和方法判断。
从 domain shift 的直觉、符号和基本方法入门 Domain Adaptation。