La vraie raison pour laquelle l'intelligence artificielle peut être dangereuse
El principal danger de l'intelligence artificielle
Plusieurs experts ont déjà mis en garde contre cette possibilité concernant le vrai danger de l'intelligence artificielle. Stuart Russel prévient del principal danger d'IA.
Le professeur de l'Université de Californie à Berkeley, Stuart Russell, est l'auteur de l'œuvre Compatibilité humaine: l'IA et le problème de contrôle et qui est un expert des avancées de l'apprentissage automatique avec l'intelligence artificielle, a expliqué la raison de son énorme inquiétude quant aux raisons pour lesquelles le L'IA peut être dangereuse.
Ce qu'il explique dans son nouveau livre, c'est que ce qui devrait nous préoccuper, ce n'est pas que les robots dotés d'intelligence artificielle prennent conscience et se rebellent contre les êtres humains. Au contraire, les machines deviennent si efficaces pour atteindre les objectifs que nous leur assignons et signalent que nous pourrions finir par être anéantis par inadvertance. Comment? définir les tâches de la mauvaise et / ou de la mauvaise manière.
Selon le professeur, l'idée générale de le danger de l'IA c'est complètement faux en raison de l'influence des films hollywoodiens. Celles-ci, en général, consistent toujours en la machine qui prend conscience d'elle-même, puis commence à haïr les humains et finit par se rebeller contre eux. Le professeur réfute ce point de vue parce qu'il explique que les robots n'ont pas de sentiments humains, il est donc erroné de s'inquiéter que quelque chose comme cela se produise.
Russell a expliqué qu'une mauvaise conscience n'est pas la raison de s'inquiéter, le danger d'intelligence artificielle c'est le potentiel de leur capacité à atteindre un objectif mal placé ou spécifié qui devrait vraiment nous préoccuper.
Un exemple de cette efficacité
L'expert en a profité pour expliquer aux médias un exemple de situation comme celle qu'il expose.
Si nous avions un système très puissant de IA qui a la capacité de contrôler le climat de la planète et nous voulons vous donner des indications pour renvoyer les niveaux de CO2 (dioxyde de carbone) dans notre atmosphère.
L'intelligence artificielle détermine et conclut que pour ce faire, les êtres humains doivent être éliminés, car ils sont la principale cause de la production massive de CO2.
Russel a clairement indiqué que l'important est maintenant que les êtres humains reprennent le contrôle.
Nous avons créé une intelligence artificielle capable d'effectuer des tâches en quelques millisecondes. Intelligence artificielle capable d'auto-optimisation et d'apprentissage par elle-même. Tant que nous sommes conscients de ses dangers et que nous dirigeons ces profits vers des tâches éthiques, il n'y aura pas de problème. Mais…
Pourrons-nous le mettre sur la bonne voie?
Et toi, qu'est-ce que tu penses que c'est le principal danger de l'intelligence artificielle?