IA e Machine Learning

Definições

Capacidade de uma máquina de imitar um comportamento inteligente humano
Test de Turing
AI Forte: Senso de propósito
AI Fraca: Capaz somente de realizar as tarefas para qual foi programada

História I

1950: Isaac Asimov - I Robot
Primeira menção em 1955 por John McCarthy
Em 1959 Arthur Samuel desenvolve um programa que pode jogar xadrez
Decada de 1950 e 1960 pesquisas sobre redes neurais
Decada de 1970 e 1980 Sistemas especialistas

História II

1997 Deep Blue vence Kasparov
2010+ Machine Learning
2011 IBM’s Watson vence o Jeopardy
2016 AlphaGo vence Lee Sedol
2017 AplhaZero vence AlphaGo

Machine Learning

Ciência de fazer executar uma tarefa a um computador pela qual ele não foi especificamente programado para fazer
Cresceu nos anos 2010 com storage e processamento mais barato
Criação de modelos estatísticos abstratos
Machine Learning é somente um problema de geometria, não tem mágica!

ML é uma aplicação da IA que permite a sistemas aprender e melhorar pela experiência (sem ser explicitamente programado). Comparando com programação tradicional você não testa valores absolutos, você desenvolve um algoritmo que trabalha de maneira mais abstrata.

Por exemplo um algoritmo de ML olha em dez fotos diferentes de gatos e quebra essas imagens em pedaços. Em seguida ele olha em cada pedaço recortado para detectar padrões. Esses padrões podem ser os pelos, o focinho, os ouvidos, ou pode ser um padrão que seres humanos não detectariam. Ao final esses padrões formam estatiscamente uma expressão do que é ser um gato.

Machine Learning é somente um problema de geometria, não tem mágica! Veremos

“So a machine learning algorithm looks at the eight pictures of different dogs. Then it breaks down these pictures into individual dots or pixels. Then it looks at these pixels to detect patterns. Maybe it sees a pattern all of these animals as having hair. Maybe it sees a pattern for noses or ears. It could even see a pattern that humans are unable to perceive. Collectively, the patterns create what might be considered a statistical expression of “dogness.”
“Machine learning still qualifies as weak AI”

Redes neurais

Primeira modelização em 1943 por Warren McCulloch e Walter Pitts
Nos anos 1950 primeiros modelos simulados por computador
Renovação do interesse nos anos 1980 (Backpropagation em 1986)
A partir de 2010

O que é conhecido sobre o funcionamento do cérebro é que o mesmo desenvolve suas regras através da experiência adquirida em situações vividas anteriormente.

Inspirando-se neste modelo, diversos pesquisadores tentaram simular o funcionamento do cérebro, principalmente o processo de aprendizagem por experiência, a fim de criar sistemas inteligentes capazes de realizar tarefas como classificação, reconhecimento de padrões, processamento de imagens, entre outras atividades.

Primeira modelização em 1943 com o neurofisiologista Warren McCulloch e o matemático Walter Pitts, eles modelaram uma rede neural simples usando circuitos elétricos.

Em 1949, Donald Hebb escreveu The Organization of Behavior, uma obra que apontou o fato de que os caminhos neurais são fortalecidos cada vez que são usados, um conceito fundamentalmente essencial para a maneira como os humanos aprendem. Se dois nervos dispararem ao mesmo tempo, argumentou, a conexão entre eles é melhorada.

Em 1956, o Projeto de Pesquisa de Verão de Dartmouth sobre Inteligência Artificial proporcionou um impulso tanto à Inteligência Artificial como às Redes Neurais. Um dos resultados deste processo foi estimular a pesquisa em IA na parte de processamento neural. Em 1957 O psicologista F. Rosenblatt concebeu o Perceptron, um modelo matemático simplificado que deixou o modelo de Warren McCulloch e Walter Pitts utilizável. 1959: Bernard Widrow e Marcian Hoff, de Stanford criaram MADALINE a primeira rede neural aplicada a um problema do mundo real, usando um filtro adaptativo que elimina ecos nas linhas telefônicas.

Nos anos 80, várias conferências foram criadas ao redor do tema das redes neurais. Nessa decada foi criado o conceito de Backpropagation para distribuir os erros dentro da rede. Com a backpropagation o aprendizado fica mais lento. Em 1989 são criados algoritmos com redes profundas mas com tempo de treinamentos em dias o que os deixa impraticáveis.

2014 Google compra Deepmind, uma startup do Reino Unido 2015 Deepface da Facebook para detectar usuários em Fotografia

Um ponto importante dos Perceptrons é que as entradas dele são binárias e a saída também Nesse exemplo o Perceptron vai ser alimentado com entradas manifestando a presença de Catchup, Mustarda e Pão para determinar se um objeto é um cachorro quente. Na primeira entrada, o 1 em roxo representa a presença de Catchup Na segunda o 1 em roxo significa que o objeto contém Mustarda No terceiro o 0 em roxo demonstra que não foi encontrado pão Cada uma dessas entradas vai ter um peso associado (os valores em verde), no caso a presença de pão tem a maior relevância com peso de 6. Com isso podemos determinar a soma ponderada (weighted sum): 1. Para a entrada do Catchup: 1 x 3 = 3 2. No caso da entrada da Mustarda: 1 x 2 = 2 3. Par terminar, na entrada com pão: 0 x 6 = 0 A soma total é então de 5 (3 + 2 + 0)

A etapa final do algoritmo do Perceptrom é determinar se o objeto analisado é ou não um cachorro quente, isso é feito evaluando se a soma ponderada está acima de um certo limite. No nosso exemplo esse limite é de 4, com a soma de 5 isso significa que o objeto observado é um cachorro quente. Para generalizar esse conceito é introduzida uma variável chamada b (bias - viés) que representa o negativo do limite → (w * x + b > 0)

Perceptron - Equação

\$w.x+b>0\$

Funções de Ativação

Redes Neurais Artificiais

RNA - Demo

Deep Learning

Especialização do Machine Learning com muitas camadas
Na maioria dos casos são utilizadas redes neurais
As camadas são encadeadas

Redes Neurais Convolucionais

CNN - Exemplos de filtros

Redes Neurais Recorrentes

RNN - LSTM e GRU

RNN - Seq2Seq

RNN - Attention

RNN - Aplicações

NLP
- Part Of Speech tagging
- Tradução
- Geração de títulos para imagens
Previsões no mercado de ações
Geração de música

Transformers

Trabalhar com sequências sem os problemas de RNN
Baseado no seq2seq e na Atenção

Transformers - Diagrama

Transformers e Geração de Conteúdo

GPT-2 e GPT-3
Dall-e

GANs

redes antagônicas geradoras
Ian Goodfellow - 2014
https://www.youtube.com/watch?v=r1jng79a5xcs
https://www.quora.com/What-are-some-recent-and-potentially-upcoming-breakthroughs-in-deep-learning Respostas de Yann LeCunn: The idea is to simultaneously train two neural nets. The first one, called the Discriminator — let’s denote it D(Y) — takes an input (e.g. an image) and outputs a scalar that indicates whether the image Y looks “natural” or not. In one instance of adversarial training, D(Y) can be seem as some sort of energy function that takes a low value (e.g. close to 0) when Y is a real sample (e.g. an image from a database) and a positive value when it is not (e.g. if it’s a noisy or strange looking image). The second network is called the generator, denoted G(Z), where Z is generally a vector randomly sampled in a simple distribution (e.g. Gaussian). The role of the generator is to produce images so as to train the D(Y) function to take the right shape (low values for real images, higher values for everything else). During training D is shown a real image, and adjusts its parameter to make its output lower. Then D is shown an image produced from G and adjusts its parameters to make its output D(G(Z)) larger (following the gradient of some objective predefined function). But G(Z) will train itself to produce images so as to fool D into thinking they are real. It does this by getting the gradient of D with respect to Y for each sample it produces. In other words, it’s trying to minimize the output of D while D is trying to maximize it. Hence the name adversarial training.

GANs - Exemplos

Essa pessoa não existe
Qual cara é real?
Deepfakes (Ex: Open Avatarify)

Reinforcement Learning - Aplicações

Jogos
Carros autônomos
Ciência
Automação industrial
Marketing

Jogos
- Mostrar Atari
- Alphazero
Carros autônomos
- Mostrar Deepdrive
- The environment consists of two parts. The vehicle and the driving environment. First, the focus should be on the vehicle. Reward: By comparing different approaches, the difference between the current speed and the current speed limit has proven to be particularly suitable. By minimizing the difference, the agent automatically sets itself in motion. Outros rewards são consumo de energia e conforto. Automação industrial
Deepmind para regular a temperatura nos datacenters: https://deepmind.com/blog/article/safety-first-ai-autonomous-data-centre-cooling-and-industrial-control
- Fazer um snapshot dos datacenters a cada 5 minutos, e mandar para rede neural profunda
- Fazer uma predição como diversas combinações afetarão o consumo futuro de energia
- Identificar quais ações devem ser tomadas para minimizar o consumo (mantendo a segurança)
- Enviar e implementar essas ações no Datacenter
Marketing

Reinforcement Learning vs Supervised Learning

Supervised Learning
- É passivo na aprendizagem
- Mapea entrada com saída
- Usa classificação e regressão