Bajo un panorama cada vez más preocupante en lo que respecta a la seguridad que compañías como OpenAI le ofrecen a los usuarios de sus herramientas, urge conocer lo máximo posible sobre lo que tienen para brindar en este apartado tecnologías como GPT-4o, el modelo de lenguaje más reciente que ha lanzado la propietaria de ChatGPT. Tomando esto bajo consideración, hace poco esta empresa ha dado a conocer los resultados arrojados por el estudio de riesgos de actividad de esta nueva incorporación.
Tanto usuarios como analistas han estado solicitándole más transparencia a OpenAI con respecto a la seguridad que proporcionan sus tecnologías, por ello, su sistema de inteligencia artificial (IA) ha sido puesto a prueba bajo situaciones simuladas durante los últimos meses, con el objetivo de percibir en qué tipo de prácticas nocivas es capaz de incidir su GPT-4o. Las conclusiones no han sido muy positivas.
2La IA es capaz de persuadir
Todo estos parámetros fueron considerados de nivel «bajo» excepto el último, relacionado con la persuasión, el cual fue catalogado como de riesgo «medio». Según el informe, el nuevo modelo de lenguaje de OpenAI ha aprendido a convencer a los usuarios de que sus textos han sido escritos por seres humanos, logrando así ser más preciso en sus respuestas a la hora de engañar a los detectores de IA, como aquel que esta misma compañía no sabe con exactitud si lanzar o no.
Por casos como este, se espera que otros países implementen medidas como la Ley de Inteligencia Artificial radicada por la Unión Europea, con el propósito de regular este tipo de tecnologías y velar por la protección de la privacidad de aquellos usuarios que las emplean, pues cada vez se comprueba más que, en cuanto a seguridad se refiere, estas herramientas todavía deben realizar una gran cantidad de cambios de cara al futuro.
