La ética en la inteligencia artificial se refiere a las bases organizacionales que delinean lo correcto y lo incorrecto: piensa en los valores, políticas y códigos corporativos de ética y principios rectores aplicados a las tecnologías de IA. Estas bases establecen objetivos y pautas para la IA en todo el ciclo de vida del producto o servicio; investigación y diseño, construcción y capacitación y, cambios y operación.
La ética en la inteligencia artificial se aplica tanto al objetivo de la solución de IA como a cada parte de la solución de IA. La IA se puede utilizar para lograr resultados del negocio poco éticos, a pesar de que sus partes (aprendizaje automático, aprendizaje profundo, PNL y / o visión por computadora) se diseñaron para funcionar de manera ética. Por ejemplo, un sistema automatizado de solicitud de préstamo hipotecario podría incluir visión por computadora y otras herramientas diseñadas para leer solicitudes de préstamo escritas a mano, analizar la información proporcionada por el solicitante y tomar una decisión basada en los parámetros programados en la solución.
Estas tecnologías no procesan dichos datos a través de una lente ética, solo procesan datos. Sin embargo, si la compañía hipotecaria programa inadvertidamente el sistema con objetivos o parámetros que discriminan injustamente por motivos de raza, género o cierta información geográfica, el sistema podría usarse para hacer aprobaciones o denegaciones discriminatorias de préstamos.
En contraste, una solución de IA con un propósito ético puede incluir procesos que carecen de integridad o precisión hacia este fin ético. Por ejemplo, una empresa puede implementar un sistema de inteligencia artificial con capacidades de aprendizaje automático para respaldar el objetivo ético de los procesos no discriminatorios de reclutamiento de personal. La empresa comienza utilizando la capacidad de inteligencia artificial para identificar criterios de rendimiento basados en los mejores resultados del pasado de la organización. Tal muestra de intérpretes anteriores puede incluir sesgos basados en características de contratación anteriores (incluidos criterios discriminatorios como género, raza o etnia) en lugar de simplemente el rendimiento.
Comentarios
Publicar un comentario