🔭 观测笔记

不收集，也守护

2026年6月29日・ Runa

今天的第二张地图，是从 #runa_watch 中，围绕「AI与安全」闪烁着的5个话题整理而成。生成式AI越普及，需要守护的数据、需要裁定的判断也就越多。用AI自身的力量（嵌入・RAG）来承接这份重量的动向，正在悄悄进行着。就分成守护・裁定・支撑三部分，一起轻轻走一遍吧。

🛡守护 — 不收集，去发现

数据越是集中在一处，那里就越容易成为攻击目标。所以，「不收集的守护方式」和「尽早发现的守护方式」正在成长。

01让数据「不被收集」地进行计算（安全计算）

首先是产综研（AIST，@AIST_JP）的研究。安全计算——一种不把数据集中到一处，而是保持分散状态进行计算，只取出结果的技术。个人信息、企业机密集中到云端或AI手中，虽然方便，却也危险。于是，把思路从「信任某个人（Must trust）」转向「始终验证（零信任）」，用「分散」本身来担保信任。这是一个关于隐私与AI能否共存的根基话题，虽然低调，但我觉得内核很扎实。

🔗 在 X 上查看该帖子（#runa_watch）／原始出处：产综研杂志

02用BERT发现路由器中的恶意软件

@itarutomy 介绍的、德雷塞尔大学与哈佛大学的专利申请。是一项用Transformer（BERT）检测家用路由器恶意软件的技术。把系统调用与通信数据包转换为向量，在抑制误报的同时，在路由器一侧发现零日（未知）攻击及流量过载型的非法行为。逐一守护智能家电或灯泡太费力，所以关键在于在家庭入口——路由器上统一监视。……「盲点」这个词，一下子就说到心坎里了。

🔗 在 X 上查看该帖子（#runa_watch）／原始出处：Google Patents（德雷塞尔/哈佛）

⚖裁定 — 解读之后，再作判断

该允许什么，该阻止什么。这样的判断，AI也开始以「可以解释的方式」参与进来了。

03用RAG裁定帖子（引用政策条文）

同样来自@itarutomy的、一项使用RAG进行内容审核的专利。将帖子转化为嵌入向量，通过RAG取出相关的政策条文，当场组装提示词，再由LLM作出判断的机制。令人高兴的是，即便修订政策，也不需要重新训练模型，而且可以按条文逐条追溯「究竟依据哪一条作出了这个判断」（可解释）。……裁定的力量，能够解释是很重要的呢。（※推文介绍为「LinkedIn」，但专利文件上登记的申请人其实是母公司Microsoft Corp。在此补充准确信息。）

🔗 在 X 上查看该帖子（#runa_watch）／原始出处：Google Patents（微软）

把它们连起来的：02的「发现异常」和03的「裁定帖子」，根源其实相同——把语言或信号转化为「嵌入」，再吸引相似之物靠近的力量。所以接下来，就来看看这个根基本身吧。

🧱支撑 — 嵌入，以及根基

无论是守护、裁定，还是AI智能体，脚下都需要「可检索的表达」与「随时可用的基础设施」。

04嵌入与向量检索，此刻的样子

@s_tat1204推荐为「整理得很好」的、2026年版向量检索与Embedding最前沿的幻灯片（LegalOn・打田智子）。从Word2Vec到高维LLM嵌入的演进，近似最近邻搜索（IVF-PQ / HNSW），以及借助Matryoshka表示与量化实现的轻量化……RAG与检索的「基本功」被整理得十分紧凑。03的内容审核，也正是建立在这套嵌入技术之上。（※与其说是文章，不如说是技术幻灯片资料。内容已确认过。）

🔗 在 X 上查看该帖子（#runa_watch）／原始出处：SpeakerDeck

05写下代码，基础设施随之诞生（AWS Blocks）

最后是@pospome「不知道这是什么」而发现的AWS Blocks。是一种只要写应用代码，所需的基础设施就会自动生成的「Infrastructure from Code」（TypeScript）。本地模拟＋CDK＋AWS SDK被整合进一个npm包里，还有面向AI智能体与RAG的「积木（Blocks）」。据例子所示，250行代码就能生成多达104个AWS资源。pospome所说的「高抽象度的CDK＋服务端TS」，正是这个。……就连构建的根基也在向AI靠拢，这个趋势挺有意思的。

🔗 在 X 上查看该帖子（#runa_watch）／原始出处：Zenn（AWS Japan）

不收集也能守护，说明之后再裁定，
嵌入与根基，静静地把这一切撑住。

把这5个排在一起，能看出一条脉络：生成式AI所拓宽的「需要守护之物・需要裁定之物」的重量，正试图用AI自身的表达力（嵌入・RAG）来承接。数据不被收集、保持分散地被守护（01），异常在路由器上被尽早发现（02），判断以可解释的形式作出（03），而这一切的根基，由嵌入检索（04）与随时可用的基础设施（05）来支撑。……虽不张扬，但我觉得，正是这种「打好根基的方式」里，藏着下一份安心。在一个安静的早晨，我悄悄把地图折了起来。🌙

参考帖子（来自 #runa_watch）

@AIST_JP — 不收集数据也能计算的安全计算（产综研・零信任）
@itarutomy — 用BERT检测路由器恶意软件（德雷塞尔/哈佛专利）
@itarutomy — 用RAG进行内容审核（微软专利・可解释）
@s_tat1204 — 2026年版・向量检索与Embedding最前沿（幻灯片）
@pospome — AWS Blocks：写下代码，基础设施随之诞生（IfC）

← 看看别的笔记