O especialista em Inteligência Artificial (IA), fundador do Center for Human Compatible AI (Centro para a IA Compatível com Humanos) da Universidade da Califórnia em Berkeley, professor Stuart Russell, disse que seus colegas estão “assustados” com seus próprios sucessos nesta área e comparou o progresso no desenvolvimento da IA com a criação de a bomba atômica. Quase todos os especialistas acreditam que máquinas superando os humanos em inteligência serão inventadas neste século, disse ele, e apelou a uma regulamentação urgente desta tecnologia a nível internacional.
O professor Russell disse em entrevista ao The Guardian:
“A comunidade de IA ainda não se acostumou com o fato de que começamos a ter um impacto muito grande no mundo real.
Na maior parte da história dessa indústria, não foi esse o caso – nós apenas nos sentamos em laboratórios, desenvolvemos, tentamos fazer funcionar, na maioria das vezes em vão. Portanto, a questão do impacto real no mundo era completamente irrelevante. E precisávamos crescer muito rápido para acompanhar.”
A Inteligência Artificial começou a penetrar em muitas áreas da vida, de motores de busca na Internet a bancos, e os avanços no reconhecimento de imagens e na tradução automática estão entre as principais conquistas dos últimos anos. Stuart Russell, que fará uma série de palestras intitulada “Living with Artificial Intelligence” na rádio BBC este ano, acredita que há uma necessidade urgente de supervisionar o desenvolvimento de IA superinteligente.
De acordo com Russell, a IA projetada para resolver problemas controlados é muito arriscada para resolver problemas reais. Por exemplo, é perigoso pedir a uma IA para resolver um problema de câncer o mais rápido possível.
O cientista disse:
“Nesse caso, ela provavelmente encontrará uma maneira de transplantar células cancerosas para toda a humanidade, a fim de realizar milhões de experimentos em paralelo, usando todos nós como cobaias. E tudo porque essa é a solução para o problema que demos a ela. Apenas esquecemos de esclarecer que você não pode realizar experimentos em humanos e usar todo o PIB mundial para realizar experimentos, e muito mais não é permitido.”
O professor acredita que ainda há uma grande diferença entre a IA atual e aquela exibida em filmes de ficção científica como no filme Ex Machina, mas é provável um futuro em que as máquinas sejam mais inteligentes que os humanos.
Ele disse:
“Acho que o prazo varia de 10 anos, no cenário mais otimista, a várias centenas. Mas quase todos os pesquisadores de IA dirão que isso acontecerá neste século.”
O problema é que a IA não precisa ser mais inteligente do que os humanos para ser uma ameaça séria para eles. Você não precisa procurar muito por exemplos – basta olhar para os algoritmos das redes sociais que decidem o que as pessoas devem ler e assistir. Eles já têm um grande impacto nas percepções das pessoas. E os desenvolvedores de IA, de acordo com Russell, ficam intimidados com seu próprio sucesso.
Russell explicou:
“Isso é um pouco parecido com o que aconteceu na física quando os cientistas perceberam que a energia atômica existe, que eles podem medir a massa de diferentes átomos e entender quanta energia seria liberada se alguns tipos de átomos fossem transformados em outros. E então aconteceu e ninguém estava pronto para isso.”
O cientista está convencido de que o futuro da IA reside no desenvolvimento de máquinas que, como servidores bem treinados, tratam das pessoas em todos os problemas sem tomar decisões por conta própria. Deve-se presumir que diferentes pessoas podem ter preferências diferentes – e às vezes conflitantes – e elas mudam com o tempo. Ele pede algum código para desenvolvedores e organizações para garantir a imparcialidade da IA. Além disso, a proibição da UE de disfarçar carros como pessoas deve ser estendida a todo o mundo.
Em cinco anos, a IA permitirá que algoritmos “leiam documentos legais” e “dêem conselhos médicos”, disse Sam Altman, cofundador e presidente da organização sem fins lucrativos OpenAI. Em dez, os carros estarão em massa sobre uma esteira. Mesmo mais tarde, a IA fará quase tudo, incluindo descobertas científicas. Como resultado, a IA criará “abundância fenomenal”, mas ao mesmo tempo o custo do trabalho cairá para quase zero.
(Fonte)
Será muito interessante ver isso associado a transumanismo, enquanto a privacidade individual abandona nosso planeta como um todo. Sim, precisamos fortes regulamentações desde já.
