Os cientistas da DeepMind compilaram uma Lista de Recursos Curadoria de materiais educacionais para aqueles que procuram conectar suas vidas com IA e aprendizado de máquina. Eu chamo essa seleção de "ontol" - uma lista do que forma a imagem do mundo nesta questão, classificada por importância e compilada por uma pessoa viva, um especialista que tem uma reputação para essa lista (para que não haja marketing e lixo tendencioso nela).
Conforme planejado, se uma dúzia das melhores empresas no campo da IA solicitar que seus especialistas principais (cada um) façam uma seleção dos melhores materiais que os formaram como especialistas, receberemos uma variedade de coleções (lista dos 10/100 principais recursos + o nome do autor) e, com base nisso, tirará conclusões interessantes (a) sobre a qualidade dos materiais, que devem ser ensinadas antes de tudo b) sobre a qualidade dos especialistas que podem destacar a principal coisa c) outra coisa). É assim que vamos "marcar" todo o texto / vídeo aberto no campo da IA. Em seguida, abordaremos outros tópicos: comida, confiança, trabalho da vida, família, cooperação, distorções cognitivas e assim por diante - o que forma a imagem do mundo.
Teste o protótipo beta.ontol.org e assine o canal @Ontol
Índice
Safety
Neuroscience
Natural Language Processing
Machine Learning
Deep Learning
Reinforcement Learning
Unsupervised Learning and Generative Models
21 Definições de justiça e sua política (vídeo) - Arvind Narayanan discute as várias definições de justiça e seus compromissos que eles representam para a sociedade.
Livro de justiça e aprendizado de máquina (livro, vídeo) - Uma visão geral da justiça em tópicos relacionados ao aprendizado de máquina.
Curso de Justiça da Universidade de Harvard (vídeo) - Palestras detalhadas e emocionantes sobre justiça e filosofia moral ( tradução ).
Tutorial do NeurIPS 2017 sobre justiça no aprendizado de máquina (vídeo) - Solon Barokaz e Moritz Hardt discutem em detalhes os elementos sócio-técnicos da justiça no aprendizado de máquina.
O problema do preconceito - NeurIPS 2017 (vídeo) - Keith Crawford discute as implicações étnicas do viés nos sistemas de inteligência artificial.
Segurança
Revisão da literatura de segurança da AGI (publicação) - Uma excelente revisão da literatura geral sobre segurança da IA antes de 2018, com centenas de referências para estudos adicionais.
Boletim informativo de alinhamento de IA de Rohin Shah - boletim semanal que resume os trabalhos mais recentes sobre segurança de AI.
Canal do YouTube sobre segurança de IA, de Robert MIles (vídeo) - Vídeos educativos e divertidos que apresentam ao público conceitos-chave para a segurança da inteligência artificial geral.
Problemas concretos na segurança da IA (publicação) - Uma visão geral útil sobre a segurança da IA , um artigo original e clássico no campo da segurança da IA.
Compatível com humanos: inteligência artificial e o problema de controle de Stuart Russell (livro) - Um livro de leitura obrigatória sobre a segurança da inteligência artificial pela autoria da IA original.
Teoria e conceitos fundamentais
Canal do YouTube 3Blue1Brown (vídeo) - Uma ótima série de tutoriais. Vídeos do zero em álgebra linear e redes neurais são especialmente úteis.
Uma visão de 2020 da Álgebra Linear (Gilbert Strang, MIT) (vídeo) - Resuma brevemente todo o curso de álgebra linear de um novo ângulo com detalhes técnicos: como a álgebra linear é aplicada na vida real, especialmente no campo de aprendizado de máquina.
Curso de aprendizado de máquina de Andrew Ng ( curso on-line) - O primeiro curso de aprendizado de máquina muito prático e abrangente. Como o curso é no Coursera, suas tarefas podem ser classificadas e os assistentes e outros alunos podem ajudá-lo com o material do curso.
Inferência causal em estatística: uma cartilha(pré-impressão online) - Uma ótima introdução à conclusão causal. Esta é uma pré-impressão da versão completa do livro mais recente.
Inferência Causal: What If (livro on-line) - Novo livro sobre inferência causal.
David MacKay, vídeos do curso de teoria da informação (vídeo) - abrange uma ampla variedade de áreas da identidade corporativa de McKay.
Curso de David MacKay sobre teoria da informação, reconhecimento de padrões e redes neurais (vídeo) - Um curso do lendário David McKay sobre teoria da informação, descoberta de padrões e redes neurais.
Fundamentos teóricos da decisão para causalidade estatística (artigo on-line) - Uma maneira alternativa de formular operações de inferência causal.
Palestras nas escolas de verão e materiais de laboratório(vídeo) - Palestras e exercícios práticos sobre modelagem probabilística e aprendizagem bayesiana.
Elementos de inferência causal: fundamentos e algoritmos de aprendizagem (livro on-line) - Este livro apresenta ao leitor uma conclusão causal de uma maneira simples e acessível.
Essência da Álgebra Linear (3blue1brown) (vídeo) - Proporciona uma compreensão muito boa das ideias-chave da álgebra linear sem precisar de detalhes técnicos. Acompanha um livro de álgebra linear tradicional ou curso universitário.
Blog de Francis Bach (blog) - Dicas e truques úteis, análise aprofundada de vários conceitos de aprendizado de máquina.
Curso empresarial de inteligência humana (materiais do curso ) - História da inteligência humana.
A matemática abstrata da topologia é aplicável ao mundo real? (vídeo) - Introdução é uma excelente descrição dos conceitos básicos de topologia. O workshop descreve de forma convincente certas aplicações.
Cursos KhanAcademy (vídeo) - Uma introdução excelente para iniciantes em estatística, teoria das probabilidades e matemática necessária para entender o aprendizado de máquina.
Curso Aprendendo com dados - Caltech (vídeo) - Uma excelente introdução ao aprendizado de máquina. Uma explicação muito clara dos tópicos.
Notas da aula sobre Monte Carlo - Uma breve explicação do método Monte Carlo.
Matemática para aprendizado de máquina (livro) - Um excelente livro que cobre os conceitos matemáticos básicos necessários para o aprendizado de máquina.
Curso de aprendizado de máquina do MIT ( curso on-line) - Excelente curso de 2006 sobre o básico (e agora a história) do aprendizado de máquina antes do aprendizado profundo e muitos níveis de abstração se tornarem comuns.
Nando de Freitas Curso de Aprendizado de Máquina (vídeo) - Um curso e uma apresentação úteis sobre aprendizado de máquina.
Companheiro de Princeton à matemática (livro) - Provavelmente a fonte matemática mais surpreendente que existe. O livro fornece uma visão geral detalhada dos conceitos mais importantes da matemática moderna, sem experiência no formato de história de ninar auto-proclamado - divertido, fácil de entender e intuitivo.
Projeto euler(Comunidade de solução de problemas) - Uma série de problemas desafiadores de matemática e ciências da computação para energizar o cérebro. Eles são muito interessantes de resolver, e o conhecimento adquirido o ajudará em sua carreira no campo da aprendizagem profunda.
Curso de teoria estatística da aprendizagem ( curso on-line) - Um curso básico de aprendizado de máquina gratuito direcionado a pessoas com formação matemática é ministrado pelos professores Hasti e Tibshirani.
Estrangule todas as ideias-chave da álgebra linear em 1 lição (vídeo) - Concisa, de forma abrangente.
O livro do porquê (capítulos do livro) - Uma introdução fácil à conclusão causal e insight histórico sobre seu desenvolvimento.
Neurociência
Podcast inspirado no cérebro - Um podcast que mescla neurociência e inteligência artificial.
Palestras da Escola de Verão do Center for Brains Minds + Machines (vídeo) - Palestras da famosa Escola de Verão Woods Hole sobre Neurobiologia Computacional * Cognitiva * (mais sobre cognição, comportamento e relacionamentos de alto nível com aprendizado de máquina).
Modelagem Cognitiva Computacional na NYU (slides e textos) - Uma revisão das abordagens computacionais para modelar a cognição humana, intimamente relacionada à inteligência artificial e ao aprendizado de máquina.
Modelos computacionais do neocórtex (notas de aula ) - Interdisciplinaridade e vanguarda.
Palestras de Métodos na Neurociência Computacional Woods Hole Summer School(vídeo) - Palestras da famosa Woods Hole Summer School sobre o sistema computacional * da neurobiologia (mais sobre os ciclos e as propriedades do sistema cerebral)
Níveis de análise de Marr (Vision, 1982, capítulo 1) (capítulo do livro) - Explica perfeitamente com exemplos usando exemplos algoritmos úteis como EM. Serve como um ótimo complemento para o livro de Bishop.
Curso de verão MIT sobre cérebros, mentes e máquinas (vídeo) - Um curso de pós-graduação na interseção de ciência cognitiva, neurociência e inteligência artificial.
Modelos probabilísticos de cognição (tutorial interativo) - Um tutorial interativo que descreve o uso de um modelo probabilístico para criar e modelar comportamentos semelhantes aos humanos.
O desafio de entender o cérebro: onde estamos em 2015(publicação) - Uma boa visão geral da neurobiologia em termos de biologia.
Neurociência teórica (livro on-line) - Uma introdução popular à neurociência teórica.
Processamento de linguagem natural
Uma introdução ao código de processamento de linguagem natural (vídeo) - uma introdução ao processamento de linguagem natural para pessoas com formação técnica.
Uma cartilha sobre modelos de redes neurais para processamento de linguagem natural (publicação) - Uma visão geral clara de como as redes neurais são usadas no processamento de linguagem natural.
CS224n: Processamento de linguagem natural com aprendizado profundo (vídeo) - Curso de Stanford sobre processamento moderno de linguagem natural .
Progresso da PNL (lista de conjuntos de dados e resultados) - Um site direcionado à comunidade que lista um grande número de tarefas, conjuntos de dados e resultados atualizados no processamento de linguagem natural.
Curso de PNL em Oxford / DM 2017(Curso de Palestras) - Curso Avançado de Processamento de Texto em Linguagem Natural, ministrado em Oxford pela DeepMinders.
Processamento de fala e linguagem (livro) - Uma referência autorizada ao processamento de linguagem natural - agora em 3D e disponível online.
O transformador anotado (postagem do blog) - Uma ótima introdução ao modelo dominante de processamento de linguagem natural.
Aprendizado de máquina
Coursera Machine Learning da Amii: algoritmos na especialização do mundo real (curso on-line) - Excelente visão geral sobre a formação e identificação de problemas de aprendizado de máquina e suas soluções.
Raciocínio Bayesiano e Aprendizado de Máquina (livro on-line) - Fundamentos do Raciocínio Probabilístico e Modelagem.
David MacKay, Gaussian Process Basics (vídeo) - A introdução mais acessível e direta ao processo gaussiano.
Livro de David MacKay "Teoria da informação, inferência e algoritmos de aprendizagem" (livro) - David MacKay apresenta uma perspectiva única sobre a relação entre teoria da informação, inferência e aprendizado. O estilo de sua escrita é único, assim como o humor do livro.
Entrando no aprendizado de máquina (blog) - Um blog para quem quer entrar no aprendizado de máquina.
Notas de aula sobre aprendizado de máquina - Herbert Yager notas de aula sobre aprendizado de máquina. Descreva os muitos princípios e padrões dos tópicos de aprendizado de máquina. Muito bem escrito (quase como um livro).
Aprendizado de máquina na UBC 2012 (Vídeo) - Curso de aprendizado de máquina 2012 da Universidade da Colúmbia Britânica.
Aprendizado de máquina, probabilidade e modelos gráficos (Sam Roweis) (vídeo) - Ótima explicação dos modelos gráficos pelo lendário Sam Roweis.
Classificação dos cursos online de ML (lista de recursos) - Uma visão geral bastante abrangente dos principais cursos de aprendizado de máquina online.
Curso de aprendizado de máquina de Stanford (vídeo) - Uma introdução ao curso de aprendizado de máquina.
Clássicos de domingo(lista de recursos) - Uma coleção de clássicos sobre todos os tópicos de aprendizado de máquina, ciência cognitiva, estatística, teoria da informação, neurociência, inteligência artificial, processamento de sinais, pesquisa operacional, econometria, etc.
WEKA: uma bancada de trabalho para aprendizado de máquina (recursos on-line) - Um grande conjunto de ferramentas de software livre para familiarização com dados, visualização de dados, classificação, regressão, seleção de recursos e base de ciência de dados. Uso constantemente esses recursos para ensinar outras pessoas a ver padrões nos dados e apreciar o quanto o sistema pode ver e usar esses e padrões mais complexos.
David MacKay, todas as videolecturas (vídeo) - O nome de David McKay é bem conhecido no campo, especialmente em estatística e aprendizado de máquina probabilístico.
Aprendizagem profunda
Guia do blog / hacker de Andrej Karpathy (entrada do blog) - Uma introdução muito acessível às redes neurais. Ele também pode encontrar dicas práticas para a vida em seu blog.
Uma visão geral dos algoritmos de otimização de descida gradiente (blog post) - Um post abrangente olhar para as principais opções para otimização descida gradiente usado para otimizar redes neurais
Chris Olah blogue (blog) - Chris Olah 's abordagem pode ser chamado muito educativo para aprender conceitos-chave (como conceitos compreensão e elementos) no aprendizado de máquina em um nível profundo. Chris é apaixonado por educação e excelente redação.
Crash Course AI (vídeo) - Série introdutória útil e bem preparada. Provavelmente o melhor para crianças em idade escolar e iniciantes.
CS231: Redes neurais convolucionais para reconhecimento visual (Stanford) (vídeo) - Ótimas notas no link: cs231n.github.io Uma boa continuação do curso de Andrew Eun, que nos mergulha mais profundamente nas redes neurais convolucionais (isso foi mencionado brevemente no final do curso anterior) e introduz conceitos mais avançados, como modelos generativos, reforço profundo.
CS231n: Redes neurais convolucionais para reconhecimento visual (lendárias palestras da CNN em Stanford) (vídeo) - Uma excelente visão geral do trabalho clássico e inicial de redes neurais convolucionais que formam a base de grande parte do trabalho com dados visuais
Deep Learning em Oxford 2005 (vídeo ) - 2015 Oxford Course in Deep Learning.
Livro de Aprendizado Profundo - Uma extensa introdução aos conceitos básicos de aprendizado profundo de alguns dos pioneiros no campo.
Práticas Indaba de Aprendizagem Profunda (Colabs) - Existem tutoriais que foram desenvolvidos e testados em seres humanos ao longo dos anos para ensinar aprendizagem profunda, dos fundamentos fundamentais aos tópicos avançados, como construir uma estrutura de diferenciação automática ou aprender uma rede adversária generativa.
Mergulhe na Aprendizagem Profunda (livro) - Um ótimo formato que torna o aprendizado dos principais conceitos de aprendizado de máquina uma experiência divertida e interativa.
Curso DL + RL com UCL(vídeo) - Este curso abordou muitas questões relacionadas à aprendizagem profunda e aprendizagem por reforço. Consistia em dois caminhos, principalmente separados, um em aprendizado profundo e outro em aprendizado por reforço, que podiam ser estudados separadamente.
EEML ( primeira / segunda edição ) Materiais de laboratório (Colabs) - Palestras e workshops sobre modelagem probabilística e aprendizado bayesiano.
Slides da EEML de palestras (slides) - Slides das palestras da EEML do ano passado (infelizmente, não há inscrições). Eles cobrem uma ampla gama de materiais, desde a introdução até apresentações mais complexas.
Full Stack Deep Learning(curso on-line) - Os modelos de aprendizado profundo não existem no vácuo. Este curso aborda os aspectos práticos do aprendizado profundo, como modelo de implementação, infraestrutura, depuração e até preparação para entrevistas de aprendizado profundo.
Introdução à palestra sobre aprendizado de máquina na oficina de Lviv ( uma , duas ) (palestras) - Introdução ao aprendizado de máquina. Introduz uma teoria com base na qual um mecanismo de aprendizado profundo pode ser construído.
Vídeos e práticas do Khipu + github (vídeo + slides) - Materiais do Khipu - vídeos e práticas para os alunos passarem.
Blog de Lilian Weng(blog) - O blog de Lilian contém postagens sobre vários tópicos, começando com o ensino de um currículo, aprendizado baseado em auto-monitoramento, meta-aprendizado etc. As postagens em si não são muito detalhadas, às vezes se aprofundando na especialização, mas muitas vezes são atualizadas com novas informações que apareceram após o lançamento da postagem original.
MIT 6.S191 Introdução à aprendizagem profunda (vídeo e tutoriais) - Curso introdutório do Instituto de Tecnologia de Massachusetts em aprendizagem profunda e sistemas de informação.
Diário online - um diário online revisado por pares que permite a criação de visualizações e códigos informativos para facilitar a compreensão dos trabalhos de pesquisa e melhorar a transparência e a reprodutibilidade.
Processamento Distribuído Paralelo(livro on-line) - Um clássico para quem quer entender as raízes da aprendizagem profunda, mesmo no momento em que era "conexionismo".
Aprendizado profundo prático para programadores (curso on-line) - Recomendado por amigos de outras especialidades técnicas (como física e matemática) como uma ótima introdução ao aprendizado profundo.
Curso de PNL com aprendizagem profunda de Stanford (curso on-line) - Útil para quem deseja começar a aprender o processamento de linguagem natural.
Aprendizado por reforço de Sutton e Barto (tutorial) - Este é o tutorial de todos os tutoriais de Aprendizado por reforço . Está alinhado de coisas muito básicas a tópicos avançados. Acompanhando as palestras de David Silver.
Aprendizagem por reforço
Especialização em 4 cursos da Alberta RL (curso on-line) - Quatro cursos seqüenciais de aprendizado por reforço, que variam de bandidos a aproximação de funções (NNs), método de gradiente e recompensa média.
CS330: Metalearning e multitarefa (vídeo) - fornece uma visão geral do trabalho recente em meta-aprendizado e multitarefa. Um vídeo inspirador e muito útil para acompanhar as idéias modernas em campo.
David Silver, Introdução ao aprendizado por reforço (vídeo) - Bom para captar idéias do livro de Sutton & Barto: Por que devemos pensar sobre essas questões? Como as idéias que já discutimos se relacionam? etc.
Curso de David Silver RL da UCL(vídeo) - Útil para quem deseja aprender sobre o treinamento de reforço.
Curso Emma Brunskill RL (vídeo) - Palestras em vídeo sobre treinamento de reforço de Emma Brunskill em Stanford.
OpenAI blog (blog) - Apresentações acessíveis de algoritmos básicos e avançados de aprendizado por reforço.
Aprendizagem por reforço: uma introdução (edição 2018) (livro) - Este é o mesmo livro introdutório sobre aprendizagem por reforço. Rich explica perfeitamente os conceitos fundamentais do aprendizado por reforço e também acompanha o leitor até tarefas avançadas de pesquisa aberta.
Especificação de UofA / Amii Coursera RL por branco e branco(curso online) - Projeto da Universidade de Alberta - Centro de Estudos da Aprendizagem por Reforço. Adam White está associado à Mente Profunda; Uma série de cursos holística e bem projetada que fornece os conceitos básicos mais importantes do aprendizado reforçado.
Spinning Up in Deep RL (código) - Um recurso educacional criado pela OpenAI que facilita o aprendizado de reforço profundo.
Aprendizagem não supervisionada e modelos generativos
Curso de modelos gráficos de Ermon em Stanford (sinopse) - Abrange uma ampla variedade de métodos probabilísticos.
Como usar o t-SNE efetivamente (tutorial interativo) - Oferece uma jornada interativa e aprofundada a todas as armadilhas do uso do tSNE e se tornou um dos anexos de dados de tamanho menor mais usados.
Vídeos matemáticos do Youtube (vídeo) - Explicação impressionante usando exemplos de algoritmos úteis como o EM. Um ótimo complemento para o livro de Bishop.
Estimativa de gradiente de Monte Carlo em aprendizado de máquina (publicação) - Útil para quem faz aprendizado de reforço ou modelagem generativa.
Reproduzindo espaços de Hilbert do kernel no Machine Learning(materiais para o curso) - Adequado para quem está interessado em modelagem generativa e não apenas.
Inferência variacional uma revisão para estatísticos por David Blei (publicação) - A melhor explicação de métodos variacionais no contexto da modelagem generativa.
De outros
Meta- treinamento Curso multitarefa e meta-aprendizagem de Chelsea Finn (vídeo) - Palestras em vídeo sobre multitarefa e meta-treinamento.
Filosofia de
Goodman (1955). O novo enigma da indução. (capítulo do livro) As premissas filosóficas do viés indutivo e por que é difícil tirar conclusões e introdução. Podcast
Science
AI de Lex Fridman (vídeo) - Conversas com diversos e impressionantes oradores convidados.
Série de palestras da Stanford Physics de Leonard Susskind (vídeo) - Um excelente recurso para aprender sobre muitas áreas importantes da física moderna, incluindo mecânica clássica, estatística e quântica. Essas palestras não implicam grande conhecimento prévio; Leonard pode introduzir e explicar idéias complexas de maneira acessível e fascinante.
Computer Science
visualizações interativas de Mike Bostock - visualizações interativas de Mike Bostock .
Probabilidade em altas dimensões - Um livro compreensível sobre “idéias na interseção da teoria da probabilidade, análise e geometria que surgem em uma ampla gama de problemas modernos em vários campos”. Curso de dinâmica não-linear de
robótica
Strogatz (vídeo) - Curso de vídeo sobre dinâmica não-linear.
Agradecemos a Ale Blankmer pela ajuda na tradução.
Descubra os detalhes de como obter uma profissão de alto nível do zero ou subir de nível em habilidades e salário fazendo os cursos on-line pagos do SkillFactory:
- Curso de Machine Learning (12 semanas)
- Treinamento da profissão em Data Science (12 meses)
- (9 )
- «Python -» (9 )