2021 삼성 AI Forum 11.01~11.02

Day 1

https://day1.saif-2021.com/main

SAMSUNG AI Forum 2021

Meet us online on November 1st-2nd, 9:00am (KST, UTC+9) --> --> --> --> --> --> --> --> --> --> --> --> --> --> LIVE > --> LIVE --> > --> --> Questions to speakers >

saif-2021.com

Keynote

GFlowNets for scientific discovery - Yoshua Bengio | University of Montreal

Generative Active Learning w/ World Model

- generating high score

Amortized Generation from Energy Function (the World Model)

The Limitations of MCMC Methods

10년전이라면 희망이 없다고 했겠지만 지금의 ML은 가능성이 있다.

GFlowNet : Flow Network based Generative Models for Non-Iterative Diverse Candidate Generation

with Energy Function

Session 1. Scalable & sustainable AI computing

Toward energy-efficient AI computing - Changkyu Choi | Corporate SVP, Samsung Advanced Institute of Technology

녹화된 내용 - 시각화 좋음

GPT-3가 가지는 데이터의 양이 크다 - energy 효율성을 위한 효율적으로 지속가능한 AI computing 이 필요.

memory bandwith

AXDIMM

scalability -> energy efficient

The Future of AI hardware - Kunle Olukotun | Stanford University

Moore's Law slow down and power constraints

ML Algorithm

Domain Specific Languages and Compliers

New hardware

NN rise the accuracy
exponential growth of Neural Networks

Graph Neural Network GNN의 활용도가 높아짐

training 과 inference가 단일 platform에서 활용하는 방식으로 변화

Compute + Memory Specialization = Energy Efficiency

Nvidia A100 GPU - 80GB HMB2 stacked memoryGoogle TPU

Dataflow Exploits Locality and Parallelism

THe old way : Kernel-by-kernel

The Dataflow way: Spatial

SambaNova - Energy Efficiency, Terabyte sized models, Sparsity, Converge, Dataflow Graphs

MLIR

Wafer scale AI, the path to efficient AI compute - Andrew Feldman l Founder & CEO, Cerebras Systems

Mission : Change Compute Forever

WSE

사이즈가 큰만큼 더 많은 core, chip memory 제공 등등 장점

인공지능 에너지의 효율성이 필요 - GPT-3의 사용량 1000개 이상의 GPU 4개월 훈련

불필요한 것을 하지 않고 효율적인 알고리즘의 사용

Cerebras0을 곱하는 부분이 비효율적

Session 2. AI for scientific discovery

Expediting materials development and predicting pollution, AI for science in Samsung - Young Sang Choi | Corporate VP, Samsung Advanced Institute of Technology

실제 과학 분야에 대한 AI 적용

분자

Bio - DeepMind

배터리 소재 관련

반도체, 디스플레이

사회 기여되는 AI에도 관심 - 삼성 미세먼지 연구소에서 기후변화에 대한 분석

AI/ML in materials research and the laboratory of the future - Gerbrand Ceder | University of California, Berkeley

Material Innovation는 사회에서 중요하다. 소재 혁신

신소재 개발 시간을 줄여서 상용화하는 것 - 생각보다 시간이 오래 걸림 18년

소재 연구 개발은 많은 연구와 시간 - 정보 부족

AI for industrial materials design - Bryce Meredig l Founder & CSO, Citrine Informatics

Session 3. Trustworthy computer vision