Un estudio alerta de miles de modelos expuestos en internet que pueden abaratar abusos como el phishing o el spam
Los peligros del open source
Así, algunos aseguran que existe una «capa» invisible de infraestructuras con miles de equipos ejecutando modelos accesibles desde fuera. En los análisis de plataformas como SentinelLABS o Censys, por ejemplo, se recogen los resultados de 293 días de observación con un mapa global con más de 175.000 hosts repartidos por 130 países.
Este estudio no solo se basa en la cantidad, sino también en la constancia, ya que han identificado un núcleo de unos 23.000 sistemas que aparecen una y otra vez (similar a un trabajo por turnos). La herramienta que se repite se llama Ollama y, según indican los estudios, se trata de una opción muy popular para correr modelos en local, pero el problema llega cuando se deja «abierta» al público.
Censys, por ejemplo, explica que encontró miles de instancias expuestas de Ollama, y señaló que una parte respondía a prompts. Vamos, que puedes «hablar» con ellas y recuerda que los riesgos no son abstractos: puedes ser víctima de phishing, spam, desinformación y otros abusos, ya que el modelo es capaz de realizar cualquier tipo de texto en cuestión de segundos.
Los investigadores señalan que, por ejemplo, existen numerosos casos en los que se quitaron los guardarraíles a modelos conocidos. Además, en una muestra de system prompts, cerca del 7,5% podía empujar a los usuarios a conductas dañinas. Así, la lección no pasa por prohibir los modelos de código abierto, sino ser consciente de sus consecuencias: si tu proyecto se basa en esta idea, debes ser consciente que cualquier persona puede manipular tu idea original. Si esto sucede, no todos tendrán buenas intenciones.