A verdadeira razão pela qual a inteligência artificial pode ser perigosa
El principal perigo da inteligência artificial
Vários especialistas já alertaram para essa possibilidade sobre o perigo real da inteligência artificial. Stuart Russel avisa del principal perigo de IA.
O professor da Universidade da Califórnia em Berkeley, Stuart Russell, é o autor da obra Compatível com humanos: IA e o problema de controle e que é um especialista nos avanços do aprendizado de máquina com inteligência artificial, explicou o motivo de sua enorme preocupação sobre por que o A IA pode ser perigosa.
O que ele explica em seu novo livro é que o que devemos nos preocupar não é que robôs com inteligência artificial se tornem conscientes e se rebelem contra seres humanos. Em vez disso, as máquinas se tornam tão eficazes em cumprir os objetivos que atribuímos a elas e sinalizam que podemos acabar sendo aniquilados inadvertidamente. Como? definir as tarefas da maneira errada e / ou errada.
Segundo o professor, a ideia geral sobre o perigo da IA está completamente errado devido à influência dos filmes de Hollywood. Estes, em geral, consistem sempre na máquina que se dá conta de si mesma e passa a odiar os humanos e acaba se rebelando contra eles. O professor refuta essa visão porque explica que os robôs não têm sentimentos humanos, então é errado se preocupar com algo assim.
Russell explicou que uma má consciência não é o motivo para se preocupar, o perigo de inteligência artificial é o potencial de sua capacidade de alcançar um objetivo mal colocado ou especificado que realmente deveria nos preocupar.
Um exemplo dessa eficácia
O especialista aproveitou para explicar à mídia um exemplo de situação como a que expõe.
Se tivéssemos um sistema muito poderoso de IA que tem a capacidade de controlar o clima do planeta e queremos dar indicações para retornar os níveis de CO2 (dióxido de carbono) em nossa atmosfera.
A inteligência artificial determina e conclui que para isso o ser humano deve ser eliminado, pois é ele a principal causa da produção massiva de CO2.
Russel deixou claro que o importante agora é que os seres humanos recuperem o controle.
Criamos uma inteligência artificial capaz de realizar tarefas em questão de milissegundos. Inteligência artificial capaz de auto-otimização e aprendizado por si mesma. Enquanto estivermos cientes de seus perigos e direcionarmos esses lucros para tarefas éticas, não haverá problema. Mas…
Seremos capazes de colocá-lo no caminho certo?
E voce o que voce acha que e o principal perigo da inteligência artificial?