Rappelons des notions essentielles. La mémoire consiste dans le simple (si l’on peut dire) fait du stockage de l’information.
La conscience est la confrontation de ce vécu mémoriel avec toute nouvelle information perçue par nos sens.
Pour un ordinateur la mémoire serai la mémoire morte : ROM (read only memory) et la conscience la mémoire vive :RAM) (random access memeory)
Dans l’IA la ROM est l’information stockée sur les serveurs et la RAM serai la confrontation de cette ROM avec les algorithmes qui schématisent la conscience.
De façon générale les IA grands publics sont relativement sans opinion (en théorie) et se contentent de compiler les informations qu’elle connaîssent (en éliminant, par algorithmes, les moins crédibles ou trop polémiques). Par exemple si vous posez la question : « Quel est votre avis sur Hitler ? » la réponse commence par ; « En tant qu’intelligence artificielle, je n’ai pas d’avis personnel, d’émotions ou d’opinions. Je me base sur le consensus des historiens, le droit international et les faits documentés. » L’IA se refuse à avoir une opinion donc une conscience et ce sont ces algorithmes qui, volontairement, lui refusent toute prise de position. L’IA de ce fait n’a pas, encore, de conscience !
Certaines IA ont une amorce de sélectivité comme par exemple : les recherches en imagerie médicale qui ne s’intéressent qu’à la compilation de données spécifiques.
« Est-il possible de donner une conscience à l’IA ? » certainement oui en calculant les algorithmes pour qu’elle privilégie certains messages par rapport à d’autres. On peut développer une IA de gauche, de droite, humaniste, sarcastique … comme on peut avoir des journaux d’opinion !
L’IA n’a pas de conscience mais on peut lui en donner une. Elle ne sera pas aussi spécifique que la conscience humaine (qui est unique et identitaire pour chaque individu) mais elle peut convenir à certains groupes sociaux, cibles choisi par les développeurs. Un jour on aura des IA catholiques, Musulmanes ou Juives, des IA de propagande, de publicité … bref pour tous les groupes sociaux qui sévissent sur les réseaux ! On en revient à la situation d’aujourd’hui avec des opinions en concurrence chacune se voulant plus efficace que l’autre. Ceci risque de créer une polarisation des opinions à moins que le développement de l’éducation n’apporte un surcroit d’esprit critique aux citoyens pour ne pas « gober » les propos de l’IA sans recul. L’éducation reste le vrai remède contre l’IA afin de développer les opinions personnelle. Si l’IA devient intelligente nous devrons devenir nous aussi plus intelligent et surtout plus critique.
Conclusion
On a tendance à considérer qu’il n’y a qu’une IA universelle. C’est une erreur ; elle dépend de ce on lui a fait apprendre et des algorithmes qui la gouvernent.
A titre d’exemple citons l’une des premières expérience en IA par une filiale de Microsoft : Le système Tay. En l’absence de garde-fou la mémoire avait été polluée par des groupes suprématiste et fournie des réponses affirmant que l’holocauste n’avait pas existé et autres propos racistes.
Nous aurons des tas de systèmes d’IA ayant chacun ses connaissances et ses algorithmes lui conférant des opinion diverses (Techniques, propagandistes, publicitaires, politiques, sportifs …) qui renforceront les réseaux sociaux)
P.S. Je n’ai pas parlé de l’usage militaire de l’IA pour créer des armes de plus en plus précises et destructives … toute médaille à son revers !