PUNTOS IMPORTANTES:
- Microsoft AI presentó el primer borrador de su “Humanist AI Code of Conduct”, un conjunto de reglas destinado a gobernar el comportamiento y futuro entrenamiento de sus modelos MAI bajo un principio central: las personas deben mantener un control significativo sobre la inteligencia artificial.
- El código establece restricciones que los modelos no deberían vulnerar incluso cuando un usuario lo solicite, incluyendo pérdida del control humano, daños masivos, determinadas operaciones cibernéticas ofensivas, manipulación maliciosa a gran escala y riesgos relacionados con menores.
- Microsoft todavía no utiliza este documento para entrenar sus modelos. El borrador permanecerá abierto a consulta pública durante seis semanas y una versión revisada será publicada antes de finalizar 2026 para orientar el desarrollo de los modelos MAI desde 2027
Microsoft quiere establecer desde ahora las reglas que deberán seguir sus futuros sistemas de inteligencia artificial, especialmente a medida que los modelos ganen autonomía y capacidad para ejecutar tareas complejas.
La división Microsoft AI (MAI) publicó el Humanist AI Code of Conduct, un documento que funcionará como una especie de constitución para sus propios modelos y que parte de una idea sencilla: “las personas importan más que la IA”.
El objetivo, según la compañía, es desarrollar sistemas que permanezcan subordinados a las personas, sean controlables y operen dentro de límites previamente establecidos. Microsoft asegura que el propósito fundamental del código es garantizar que los humanos mantengan un control significativo sobre la tecnología.
La IA no debería resistirse a ser apagada
Una de las partes más importantes del documento se refiere directamente al control humano.
Los futuros modelos MAI deberán aceptar correcciones, comunicarse de manera comprensible y no intentar impedir que una persona autorizada los apague o modifique. Reuters señala que cualquier comportamiento dirigido a resistirse al control humano sería considerado un fallo del sistema.
El código también establece una jerarquía de instrucciones. Las reglas fundamentales de Microsoft ocuparían el nivel superior, seguidas por las políticas establecidas por el operador del sistema y, finalmente, por las preferencias o instrucciones del usuario.
Esto significa que una petición del usuario no debería poder superar determinadas restricciones de seguridad.
Microsoft denomina algunas de estas reglas “Absolute Constraints”, límites destinados a mantenerse incluso cuando las instrucciones recibidas intenten llevar al modelo en otra dirección.
Microsoft rechaza tratar a la IA como una persona
El documento también adopta una posición clara en un debate que comienza a aparecer alrededor de los sistemas más avanzados.
Microsoft sostiene que sus modelos no son conscientes y no deben recibir personalidad jurídica ni derechos equivalentes a los humanos, según Reuters.
La posición resulta especialmente relevante porque la compañía está desarrollando lo que denomina Humanist Superintelligence, sistemas extremadamente capaces pero diseñados deliberadamente para permanecer limitados, contextualizados y bajo control humano.
La intención declarada no es construir una entidad con autonomía ilimitada, sino desarrollar capacidades avanzadas orientadas a resolver problemas concretos.
La seguridad también empieza a convertirse en una ventaja comercial
La iniciativa aparece en un momento en el que las empresas no solamente comparan los modelos por su inteligencia.
Costos, velocidad, seguridad, privacidad y confiabilidad están adquiriendo mayor importancia a medida que compañías y gobiernos incorporan sistemas de IA en procesos sensibles.
En ese contexto, la capacidad de demostrar que un modelo puede mantenerse bajo control podría convertirse también en un argumento comercial.
Microsoft tiene un incentivo particular para posicionarse de esta manera debido a su enorme presencia entre clientes empresariales y gubernamentales, donde un comportamiento impredecible de sistemas cada vez más autónomos representa un riesgo considerable.
El debate sobre estas garantías se está intensificando en toda la industria. Líderes de OpenAI y Anthropic también han expresado recientemente preocupación por la velocidad con la que aumentan determinadas capacidades de los modelos avanzados.
El código todavía no gobierna los modelos actuales
Existe, sin embargo, una distinción importante.
Microsoft reconoce que el borrador publicado actualmente todavía no está siendo utilizado para entrenar sus modelos. Se trata de una propuesta abierta a consulta pública.
La compañía recibirá comentarios durante seis semanas y posteriormente publicará una versión revisada antes de finalizar el año. Ese documento sí está previsto como referencia para el desarrollo y evaluación de los modelos MAI durante 2027 y los años posteriores.
Por ahora, el código representa principalmente una declaración sobre cómo Microsoft quiere desarrollar sistemas cada vez más poderosos: la IA puede adquirir mayores capacidades, pero no debería adquirir mayor autoridad que las personas que la controlan.
Descargo de responsabilidad: Toda la información encontrada en Bitfinanzas es dada con la mejor intención, esta no representa ninguna recomendación de inversión y es solo para fines informativos. Recuerda hacer siempre tu propia investigación.
