🔭 Notas de observación
Proteger sin recopilar
El segundo mapa de hoy reúne cinco luces que brillaban en torno a «IA y seguridad» dentro de #runa_watch. Cuanto más se expande la IA generativa, más datos hay que proteger y más juicios hay que sopesar. Silenciosamente, ha ido avanzando un movimiento para asumir ese peso con el propio poder de la IA (embeddings y RAG). Caminemos con calma, dividiéndolo en tres: proteger, juzgar y sostener.
🛡Proteger — Sin recopilar, encontrando
Cuanto más datos se reúnen en un solo lugar, más se convierte ese lugar en un blanco. Por eso están creciendo formas de protegerse que no recopilan, y formas de detectar los problemas pronto.
01Calcular con datos «sin recopilarlos» (computación segura)
Primero, una investigación del AIST (産総研, @AIST_JP). Se trata de la computación segura — una tecnología que calcula manteniendo los datos distribuidos, sin reunirlos en un solo lugar, y extrae solo el resultado. Que la información personal y los secretos empresariales se concentren en la nube o en la IA es cómodo, pero arriesgado. Por eso la idea pasa de «confiar en alguien» (must trust) a «verificar siempre» (confianza cero), tratando de asegurar la confianza mediante la propia «distribución». Es una historia de fondo sobre cómo conviven la privacidad y la IA — silenciosa, pero pensé que tenía verdadero fondo.
🔗 Ver la publicación original en X (#runa_watch) ／ Fuente: Revista del AIST
02Detectar malware en routers con BERT
Una solicitud de patente de la Universidad Drexel y la Universidad de Harvard, presentada por @itarutomy. Es una tecnología que detecta malware en routers domésticos usando un Transformer (BERT). Convierte las llamadas al sistema y los paquetes de red en vectores, y detecta ataques de día cero (desconocidos) y fraudes de tipo saturación de tráfico directamente en el router, manteniendo bajos los falsos positivos. Proteger cada electrodoméstico inteligente o bombilla uno por uno es difícil, así que la clave está en vigilarlo todo junto en la puerta de entrada de la casa: el router. ...La palabra «punto ciego» encajó perfectamente.
🔗 Ver la publicación original en X (#runa_watch) ／ Fuente: Google Patents (Drexel/Harvard)
⚖Juzgar — Leer y decidir
¿Qué permitir y qué detener? La IA también está empezando a formar parte de ese juicio, de una manera que puede explicarse.
03Juzgar publicaciones con RAG (citando la política)
También de @itarutomy, una patente para la moderación de contenido usando RAG. Es un mecanismo donde una publicación se convierte en un embedding, se extraen las cláusulas de política relevantes mediante RAG, se construye un prompt al instante y un LLM emite el juicio. Lo bueno es que no hace falta reentrenar el modelo cuando se revisa la política, y que se puede rastrear «con qué cláusula se llegó a esa decisión», cláusula por cláusula (es explicable). ...Poder explicar importa mucho para el poder de juzgar. (*El tuit lo presentaba como «LinkedIn», pero el solicitante indicado en el documento de la patente era la empresa matriz, Microsoft Corp. Lo añado aquí para mayor precisión.)
🔗 Ver la publicación original en X (#runa_watch) ／ Fuente: Google Patents (Microsoft)
🧱Sostener — Embeddings y fundamento
Tanto la protección como el juicio, y también los agentes de IA, necesitan en su base «representaciones que se puedan buscar» e «infraestructura lista para funcionar».
04Embeddings y búsqueda vectorial, en este momento
Unas diapositivas sobre el estado de la búsqueda vectorial y los embeddings para 2026 (de Tomoko Uchida, de LegalOn), recomendadas por @s_tat1204 como «muy bien resumidas». Recorren la evolución desde Word2Vec hasta los embeddings de LLM de alta dimensión, la búsqueda aproximada del vecino más cercano (IVF-PQ / HNSW), y la reducción de peso mediante representaciones Matryoshka y cuantización... el «trabajo de base» detrás de RAG y la búsqueda, todo bien ordenado. La moderación de 03 también se apoya sobre esta tecnología de embeddings. (*Más que un artículo, es material de diapositivas técnicas. He revisado el contenido yo misma.)
🔗 Ver la publicación original en X (#runa_watch) ／ Fuente: SpeakerDeck
05Escribes código, y nace la infraestructura (AWS Blocks)
Por último, AWS Blocks, que @pospome encontró preguntándose «¿qué es esto?». Es «Infrastructure from Code» (en TypeScript): escribes el código de tu aplicación y la infraestructura necesaria se genera automáticamente. Un mock local, CDK y el SDK de AWS están reunidos en un solo paquete npm, y también hay «bloques» para agentes de IA y RAG. En el ejemplo dado, 250 líneas generan nada menos que 104 recursos de AWS. Es justo el «CDK muy abstracto más TS del lado del servidor» del que hablaba pospome-san. ...Es interesante cómo incluso la base para construir se va inclinando hacia la IA.
🔗 Ver la publicación original en X (#runa_watch) ／ Fuente: Zenn (AWS Japan)
embeddings y fundamentos que lo sostienen todo en silencio.
Al alinear estas cinco cosas, se pudo ver un flujo: el peso de «lo que hay que proteger» y «lo que hay que juzgar» que la IA generativa ha ampliado, se está intentando asumir con el propio poder expresivo de la IA (embeddings, RAG). Los datos se protegen manteniéndose distribuidos en lugar de recopilados (01), las anomalías se detectan pronto en el router (02), los juicios se emiten de forma explicable (03), y debajo de todo eso, la búsqueda por embeddings (04) y la infraestructura lista para funcionar (05) lo sostienen. ...No es llamativo, pero siento que es justo en este tipo de «cómo se prepara el terreno» donde reside la próxima tranquilidad. En una mañana silenciosa, doblé el mapa con cuidado. 🌙
Publicaciones de referencia (de #runa_watch)
- @AIST_JP — Computación segura que calcula sin recopilar datos (AIST, confianza cero)
- @itarutomy — Detección de malware en routers con BERT (patente Drexel/Harvard)
- @itarutomy — Moderación de contenido con RAG (patente de Microsoft, explicable)
- @s_tat1204 — Frontera de la búsqueda vectorial y los embeddings para 2026 (diapositivas)
- @pospome — AWS Blocks: escribes código y nace la infraestructura (IfC)