O próximo passo da Inteligência Artificial

Um dos desafios no desenvolvimento da Inteligência Artificial é entender o processo de pensamento da máquina e se ele corresponde à forma como nós, humanos, processamos as informações a nossa volta.

inteligência artificial

Cada vez mais, o sistema de IA através da tecnologia de Redes Neurais Profundas (Deep Neural Network) é utilizada para informar decisões vitais para a saúde e segurança humana, como na direção de carros autônomos ou em certos diagnósticos médicos. Mas como sabemos que eles estão corretos?

Um médico ou você no banco do passageiro de um veículo autônomo, precisa estar ciente de qualquer risco ou incerteza associada a essa decisão.

A Deep Neural Network está sendo apresentada como o modelo mais próximo da tomada de decisão humana. As redes neurais artificiais podem ser treinadas para identificar semelhanças mas, análises visuais simples, tem revelado inconsistências quando comparadas a nossa visão.

Na busca do modelo de Inteligência Artificial que reconheça o rosto de uma pessoa, como nós fazemos, temos que ter a certeza que o modelo usa os mesmos dados do rosto de uma pessoa, como você faria. Se a IA não fizer isso, podemos ter a ilusão de que funciona, mas descobrimos que dá errado em algumas circunstâncias novas ou não testadas.

Por isso, uma pesquisa da Escola de Psicologia e Neurociência da Universidade de Glasgow, está aplicando a modelagem 3D de rostos para analisar a maneira como a tecnologia Deep Neural Network processa as informações.

Na pesquisa, humanos deverem classificar semelhanças dos rostos 3D apresentados. Com os dados coletados, comparam com o resultado apresentado pela tecnologia – testando não apenas se os humanos e a IA tomaram as mesmas decisões, mas também se foram baseadas nas mesmas informações.

Precisamos da capacidade não apenas de ter modelos de alto desempenho, mas também de entender quando não podemos confiar nesses modelos. O objetivo é que a tecnologia avance sinalizando as incertezas, mas também usando-a para tomar decisões mais conservadoras em cenários de risco.