Volver

Los Centros de datos de Inteligencia Artificial y sus nuevos riesgos

Rhonda Ascierto advierte los nuevos riesgos que deben considerarse al implementar IA en los centros de datos.


 La implementación de soluciones de eficiencia energética, cogeneración de energía y ahorro de costos, son algunas de las tendencias que lideran el mercado de los Data Centers. Sin embargo, Rhonda Acierto vicepresidenta de investigación en Uptime Institute, advierte que el aumento en el uso de IA para mejorar la eficiencia y reducir los riesgos de los centros de datos supone la creación de nuevos tipos de riesgos que aún no son claros.

Para ilustrar la situación, Rhonda cita un claro ejemplo. Se refiere a la falta de claridad sobre la propiedad de los datos y si esto en realidad supondría un riesgo para los centros de datos; al respecto afirma que la respuesta aún es incierta puesto que hay opiniones encontradas acerca de los posibles riesgos. Hay quienes consideran que el acceso de los piratas informáticos a los información almacenada y administrada por los centros de datos no representa mayor riesgo dado que los datos se anonimizan y por lo tanto no incluyen detalles específicos; mientras que para otros, representa un grave riesgo, en la medida que estos piratas pueden aplicar técnicas para reunir información confidencial y desde allí obtener una imagen bastante completa.

Ante la situación, la vicepresidenta del Uptime Institute, señala 4 tipos de riesgo:

Riesgo Comercial

·         Los modelos y datos de IA a menudo se almacenan en la nube pública y fuera del control inmediato (si se usa un modelo de proveedor). Incluso si están en el sitio, los modelos y los datos pueden no ser entendidos.

·         Los productos y servicios comerciales de aprendizaje automático aumentan el riesgo de bloqueo porque los procesos y sistemas pueden construirse sobre modelos usando datos que no se pueden replicar.

·         Los precios también pueden aumentar a medida que crece la adopción. En la actualidad, los precios son bajos para atraer nuevos datos (para aumentar la efectividad de los modelos de IA) o para atraer servicios o ventas de equipos.

·         Una alta dependencia de la inteligencia artificial podría cambiar los requisitos de habilidades o los puestos de personal "deshabilitados", lo que podría ser un problema.

Riesgo de acuerdo legal y de nivel de servicio

·         Una vez más, los modelos y datos de IA se almacenan fuera del control inmediato (si se usa un modelo de proveedor) o pueden estar en el sitio pero no se comprenden. Esto puede ser inaceptable para algunos, como los proveedores de servicios u organizaciones que operan dentro de entornos regulatorios estrictos.

·         En teoría, también podría trasladar la responsabilidad a un proveedor de servicios de IA, una preocupación particular por cualquier acción automatizada proporcionada por el servicio.

Riesgo técnico

·         Si bien generalmente entendemos qué tipos de datos se utilizan para acciones y recomendaciones humanas, no siempre es posible entender por qué y exactamente cómo una máquina tomó una decisión.

·         Es posible que no sea posible cambiar o anular fácilmente las decisiones.

·         A medida que las máquinas guían más decisiones, las habilidades básicas pueden subcontratarse, dejando a las organizaciones vulnerables.

Riesgo de interoperabilidad y otras "incógnitas desconocidas"

·         El riesgo derivado del desarrollo de escenarios HAL "2001" (es decir, singularidad) se supera, pero existe un riesgo desconocido a largo plazo.

Es probable que la IA esté integrada en la mayoría de los casos (es decir, dentro de un equipo individual y un sistema de gestión). Esto podría conducir a situaciones en las que dos o tres o cinco sistemas tienen alguna capacidad para actuar de acuerdo con sus propios modelos, lo que lleva a una posible situación de fuga o conflicto entre ellos.

Por otra parte, un sistema de gestión de edificios puede aumentar la refrigeración, mientras que un sistema de TI mueve la carga de trabajo a otra ubicación, lo que aumenta la refrigeración en otro lugar.

Los operadores de centros de datos ya están aplicando IA en sus instalaciones, y los proveedores de la nube tienen la intención de beneficiarse de los servicios de IA. Estos movimientos deben ser informados por una conciencia de los posibles inconvenientes.

Volver