b"Artificial intelligence / Council of EuropeInteligencia artificial / Consejo de Europamake and the conclusions they can draw are based on data, and if dataA medida que la IA se utiliza cada vez ms, no debemos asegurarnos are biased, the outcome will also be biased. So, it's imperative to ensurede que los mismos estndares que se aplican diariamente a los procesos that there is a fair process.humanos tambin se apliquen a los sistemas automatizados? Por ejemplo, As AI is increasingly used, shouldn't we ensure that the same standardsexigimos que los jueces se sometan a una formacin judicial amplia y that apply daily to human processes are also applied to automated systems?exhaustiva, por lo que estamos hablando de cualificaciones muy altas. For example, we demand that judges undergo extensive and thoroughAhora bien, si las decisiones judiciales se van a delegar en mquinas, es judicial training, so we are talking about very high qualifications. Supposemejor asegurarse de que tanto las mquinas como los sistemas que se judicial decisions are going to be delegated to machines. In that case, itutilizan y las personas que las desarrollan y programan tambin estn is better to make sure that the machines, the systems they use and thealtamente cualificadas.people who develop and program them also have very high qualifications.Otro tema delicado relacionado con la IA es la transparencia. Cuando Another sensitive issue related to AI is transparency. When you dealuna persona trata con un algoritmo, en lugar de con un ser humano, se with an algorithm instead of a human being, you must be informed. Indebe informar a esta persona. En este sentido, Estados Unidos est a la this regard, the United States is at the forefront. The State of Californiavanguardia: el estado de California ya tiene una ley, que se aplica a las already has a law that applies to companies with more than one millionempresas con ms de un milln de clientes, que les obliga a informar customers, which requires them to inform the customer if the interactional cliente si la interaccin es con un bot en lugar de con un humano. is with a bot instead of a human. That must be made clear even more soEs increblemente importante que esto quede claro an ms cuando las when State agencies are using AI. agencias estatales estn utilizando la IA.Many of the concerns around using AI are already covered, firstly, inMuchas de las preocupaciones en torno al uso de la IA ya estn cubiertas, part, by existing legislation, namely the European Convention on Humanen primer lugar, en parte, por la legislacin existente, a saber, el Convenio Rights, which also applies online/to machines. Europeo de los Derechos Humanos, que tambin se aplica en lnea/a las Second, there is a whole series of so-called Ethical Charters, joint non- mquinas.binding statements, from governments, industry and civil society, on theEn segundo lugar, existe toda una serie de las denominadas cartas ticas, ethical use of AI. But, as noted, they are not binding, so they do not offerdeclaraciones conjuntas no vinculantes, de los gobiernos, la industria y la the guarantees we need. Scandals like the Facebook-Oxford Analyticasociedad civil, sobre el uso tico de la IA. Pero, como se ha sealado, no son scandal demonstrate how important it is to have effective AI and datavinculantes, por lo que no ofrecen las garantas que necesitamos. Escndalos collection rules. como el de Facebook-Oxford Analytica demuestran lo importante que es Therefore, we are now working based on existing non-binding instrumentsque exista una normativa efectiva sobre IA y la recopilacin de datos.to identify the requirements for a basic treaty on AIpossibly a Convention.Por lo tanto, ahora estamos trabajando sobre la base de los instrumentos We aim to define clear rules for all stages: from design through developmentno vinculantes existentes para identificar lo que se requiere para un to application. tratado bsico sobre IA, posiblemente una Convencin, a fin de definir And why the Council of Europe? Although we are a regional organisation,normas claras para todas las etapas, desde el diseo hasta el desarrollo we have set global benchmarks in the field of technology before. At they la aplicacin.moment, there is only one treaty in the world on cybercrime: it's the CouncilY por qu el Consejo de Europa? Aunque somos una organizacin of Europe's Cybercrime Convention, ratified by sixty-five countries, manyregional, ya hemos establecido puntos de referencia globales en el campo outside Europe. In addition, last year we were active with this Conventionde la tecnologa. Por el momento solo existe un tratado en el mundo sobre in more than 130 countriesit is a global standard. Data protection isciberdelincuencia: es el Convenio sobre la ciberdelincuencia del Consejo another example: forty years ago, the Council of Europe was the firstde Europa, ratificado por sesenta y cinco pases, muchos fuera de Europa. international organisation to establish a data protection convention, whichAdems, el ao pasado estuvimos activos con esta Convencin en ms is, I would say, the precursor to the GDPR. Yet another example in thede 130 pases; realmente es un estndar mundial. technology sector was the cloning of Dolly, the sheep. Following this event,La proteccin de datos es otro ejemplo: hace cuarenta aos, el Consejo the Council of Europe quickly negotiated a protocol to ban the cloning ofde Europa fue la primera organizacin internacional en establecer un humans. We were able to react very quickly to technological advances. convenio de proteccin de datos, que es, dira, el precursor del GDPR. Otro For all these reasons, the Council of Europe is very well placed to prepareejemplo en el sector tecnolgico fue la clonacin de la oveja Dolly. Tras such an instrument regarding the use of AI. We conducted a Feasibilityeste evento, el Consejo de Europa negoci muy rpidamente un protocolo Study that the Member States unanimously approved in December 2020para prohibir la clonacin de seres humanos. Pudimos reaccionar muy and is now the basis for the work in progress. rpidamente a los avances tecnolgicos.Por todas estas razones, el Consejo de Europa est muy bien situado para preparar un instrumento de este tipo en relacin con el uso de la IA.Realizamos un Estudio de Viabilidad que fue aprobado por unanimidad (.) artificial intelligence is already used by somepor los Estados miembros en diciembre de 2020 y ahora es la base del prisons administrations to allocate cells to prisonerstrabajo en curso.(.) artificial intelligence can broadly supportand for the good of all processes in the context of re-socialisation, rehabilitation and programming. In prison systems, AI can have many uses to save time, and it can also save lives. For instance, in prisons where there is a high risk of suicide, AI systems can be used to detect behaviours and signals and, therefore, be an asset to safety. Semester / Semestre 12021JUSTICE TRENDS // 2 9"