Pangram prueba un filtro de Gmail que puede mover a la papelera correos electrónicos redactados por IA
La herramienta escanearía los mensajes en los servidores de Pangram, aplicaría las etiquetas AI, Mixed o Human y automatizaría a dónde se dirige el correo marcado.
By Ryan Merket · Published · Updated
Primary source: X
Why it matters
Pangram is turning AI detection from an advisory score into an inbox gate. Automatic filtering raises the cost of false positives while requiring server-side access to private email.
Pangram, la empresa de detección de IA fundada por Max Spero (@max_spero_) y Bradley Emi (@bradley_emi), está probando una integración con Gmail que escanea los mensajes entrantes y puede enviar automáticamente a spam o a la papelera los correos clasificados como escritos por IA.
La investigadora de seguridad y especialista en ingeniería inversa Jane Manchun Wong (@wongmjane), conocida por descubrir funciones no publicadas de aplicaciones, publicó capturas de pantalla de la integración el 11 de agosto. Las imágenes muestran un panel de Pangram conectado a Gmail mediante Google OAuth, con controles para pausar los escaneos, excluir remitentes y dominios seleccionados, y elegir cómo Gmail maneja los mensajes que Pangram etiqueta como generados por IA.
La función sigue en desarrollo. Wong dijo que Pangram está "trabajando en" la integración, y las capturas describen la conexión como un escaneo del correo entrante en los propios servidores de Pangram. Los mensajes nuevos se revisarían después de que Gmail envíe a Pangram una notificación de entrega, y luego se marcarían con las etiquetas Pangram/AI, Pangram/Mixed o Pangram/Human dentro de la bandeja de entrada.
Un detector se convierte en una regla de la bandeja de entrada
El cambio importante es la acción adjunta a la puntuación de Pangram. Las herramientas existentes de Pangram generalmente permiten a las personas inspeccionar documentos, páginas web y publicaciones sociales seleccionadas. La integración con Gmail funcionaría de forma continua y usaría una clasificación para determinar si un mensaje permanece en la bandeja de entrada.
Una captura muestra un panel que resume hilos verificados, omitidos y etiquetados, junto con una lista de remitentes responsables de la mayoría de los mensajes etiquetados como IA. Los usuarios pueden establecer reglas de exclusión para remitentes, dominios, grupos y listas de correo antes de que Pangram obtenga el texto del mensaje. Otra configuración permite a los usuarios mover el correo etiquetado como IA fuera de la bandeja de entrada.
Ese diseño podría ofrecer a los usuarios una nueva forma de suprimir ofertas de ventas automatizadas, mensajes masivos y otros textos escritos por máquinas que pasan los filtros convencionales de spam. También podría atrapar correos legítimos redactados con la ayuda de un asistente de IA. Los términos de servicio de Pangram describen su sistema de detección como un clasificador probabilístico y aconsejan a los usuarios de su servicio de detección de mensajes de texto tratar cada predicción como una señal entre muchas. Una regla automática de la bandeja de entrada le da a esa predicción una consecuencia operativa directa.
Spero y Emi se conocieron como estudiantes de primer año en Stanford y luego trabajaron en sistemas aplicados de aprendizaje automático antes de fundar Pangram. Spero trabajó en Nuro, Google, Two Sigma y Yelp, mientras que Emi dirigió investigación de deep learning en Absci después de trabajar en el equipo de visión por computadora de Tesla Autopilot. Pangram ha construido su negocio alrededor de la detección de texto sintético para escuelas, editoriales, plataformas y otras organizaciones. (Historia de la empresa Pangram)
La prueba con Gmail sigue a una rápida expansión más allá del verificador de documentos original de Pangram. Substack comenzó a usar Pangram en publicaciones y notas publicadas desde el 21 de julio, permitiendo a los lectores estimar cuánto texto fue escrito por humanos o asistido por IA. Pangram luego anunció Pangram 4 y recaudó $9 millones en una ronda del 29 de julio liderada por Menlo Ventures, con la participación de Haystack, ScOp Venture Capital, Script Capital y Cadenza, según el informe de TechCrunch.
La bandeja de entrada aumenta los riesgos para la privacidad
Una conexión con Gmail requiere que Pangram procese una categoría de texto que puede incluir correspondencia privada, recibos, alertas de cuenta y conversaciones laborales. Las capturas enfatizan Google OAuth, el acceso revocable y las exclusiones a nivel de remitente, a la vez que dejan claro que Pangram realiza el escaneo en sus servidores en lugar de hacerlo completamente dentro de Gmail.
La política de privacidad actual de Pangram dice que recopila el texto enviado para detección, junto con metadatos de clientes registrados. Pangram afirma que el contenido de los clientes no se usa para entrenar ni mejorar sus modelos de IA, no se usa para publicidad y puede eliminarse del historial de consultas. Una preguntas frecuentes sobre privacidad de datos separada indica que el contenido enviado permanece almacenado mientras una cuenta esté activa a menos que el usuario lo elimine.
El último informe técnico de Pangram dice que Pangram 4 alcanzó una tasa de falsos positivos de 0.0041% y una tasa de falsos negativos de 0.3396% en sus evaluaciones. Esos son los resultados de referencia reportados por Pangram, y el rendimiento en la bandeja de entrada dependerá de la longitud, el estilo y el origen del modelo del correo electrónico real. El informe también dice que Pangram 4 fue diseñado para clasificar la escritura mixta humano-IA e identificar pasajes más pequeños editados por IA, una capacidad necesaria cuando muchos mensajes comienzan con un borrador humano y pasan por una herramienta de escritura con IA antes de ser enviados.
La integración con Gmail extiende la apuesta central de Pangram, de identificar material escrito por máquinas a hacer cumplir las preferencias del usuario en contra de ese material. Si se lanza, Pangram se colocaría entre el remitente y el destinatario, convirtiendo una estimación de autoría en una decisión de entrega antes de que el usuario abra el mensaje.