Entri blog ini ditulis bersama dengan Chaoyang He dan Salman Avestimehr dari FedML.
Menganalisis data kesehatan dan ilmu kehidupan dunia nyata (HCLS) menimbulkan beberapa tantangan praktis, seperti silo data terdistribusi, kurangnya data yang memadai di satu lokasi untuk kejadian langka, pedoman peraturan yang melarang berbagi data, persyaratan infrastruktur, dan biaya yang dikeluarkan untuk membuat gudang data terpusat. Karena berada dalam domain yang sangat diatur, mitra dan pelanggan HCLS mencari mekanisme perlindungan privasi untuk mengelola dan menganalisis data berskala besar, terdistribusi, dan sensitif.
Untuk memitigasi tantangan ini, kami mengusulkan kerangka kerja pembelajaran federasi (FL), berdasarkan FedML sumber terbuka di AWS, yang memungkinkan analisis data HCLS yang sensitif. Ini melibatkan pelatihan model pembelajaran mesin (ML) global dari data kesehatan terdistribusi yang disimpan secara lokal di berbagai lokasi. Tidak perlu memindahkan atau berbagi data di seluruh situs atau dengan server terpusat selama proses pelatihan model.
Menerapkan kerangka kerja FL di cloud memiliki beberapa tantangan. Mengotomatiskan infrastruktur server-klien untuk mendukung banyak akun atau virtual private cloud (VPC) memerlukan peering VPC dan komunikasi yang efisien di seluruh VPC dan instans. Dalam beban kerja produksi, pipeline penerapan yang stabil diperlukan untuk menambah dan menghapus klien dengan mulus serta memperbarui konfigurasi mereka tanpa banyak biaya tambahan. Selain itu, dalam pengaturan yang heterogen, klien mungkin memiliki persyaratan yang berbeda-beda untuk komputasi, jaringan, dan penyimpanan. Dalam arsitektur terdesentralisasi ini, kesalahan logging dan debugging di seluruh klien bisa jadi sulit. Terakhir, menentukan pendekatan optimal untuk mengagregasi parameter model, menjaga performa model, memastikan privasi data, dan meningkatkan efisiensi komunikasi adalah tugas yang berat. Dalam postingan ini, kami mengatasi tantangan ini dengan menyediakan template federated learning operations (FLOps) yang menghosting solusi HCLS. Solusinya adalah agnostik untuk kasus penggunaan, yang berarti Anda dapat mengadaptasinya untuk kasus penggunaan Anda dengan mengubah model dan data.
Dalam seri dua bagian ini, kami mendemonstrasikan bagaimana Anda dapat menerapkan kerangka kerja FL berbasis cloud di AWS. Dalam Pos pertama, kami menjelaskan konsep FL dan kerangka kerja FedML. Pada bagian kedua ini, kami menyajikan kasus penggunaan perawatan kesehatan dan ilmu hayati bukti konsep dari kumpulan data eICU dunia nyata. Kumpulan data ini terdiri dari database perawatan kritis multi-pusat yang dikumpulkan dari lebih dari 200 rumah sakit, yang menjadikannya ideal untuk menguji eksperimen FL kami.
Kasus penggunaan HCLS
Untuk tujuan demonstrasi, kami membuat model FL pada kumpulan data yang tersedia untuk umum untuk mengelola pasien yang sakit kritis. Kami menggunakan Database Penelitian Kolaborasi eICU, database unit perawatan intensif multi-pusat (ICU), terdiri dari 200,859 pertemuan unit pasien untuk 139,367 pasien unik. Mereka dirawat di salah satu dari 335 unit di 208 rumah sakit yang berlokasi di seluruh AS antara 2014-2015. Karena heterogenitas yang mendasari dan sifat data yang terdistribusi, ini memberikan contoh dunia nyata yang ideal untuk menguji kerangka kerja FL ini. Kumpulan data mencakup pengukuran laboratorium, tanda-tanda vital, informasi rencana perawatan, obat-obatan, riwayat pasien, diagnosis masuk, diagnosis dengan stempel waktu dari daftar masalah terstruktur, dan perawatan yang dipilih serupa. Ini tersedia sebagai satu set file CSV, yang dapat dimuat ke dalam sistem basis data relasional apa pun. Tabel tersebut tidak diidentifikasi untuk memenuhi persyaratan peraturan US Health Insurance Portability and Accountability Act (HIPAA). Data dapat diakses melalui repositori PhysioNet, dan detail proses akses data dapat ditemukan di sini [1].
Data eICU ideal untuk mengembangkan algoritme ML, alat pendukung keputusan, dan memajukan penelitian klinis. Untuk analisis patokan, kami mempertimbangkan tugas memprediksi kematian pasien di rumah sakit [2]. Kami mendefinisikannya sebagai tugas klasifikasi biner, di mana setiap sampel data mencakup jendela 1 jam. Untuk membuat kohort untuk tugas ini, kami memilih pasien dengan status keluar dari rumah sakit dalam catatan pasien dan lama rawat inap minimal 48 jam, karena kami fokus pada prediksi mortalitas selama 24 dan 48 jam pertama. Ini menciptakan kohort 30,680 pasien yang berisi 1,164,966 catatan. Kami mengadopsi preprocessing data domain-spesifik dan metode yang dijelaskan dalam [3] untuk prediksi kematian. Ini menghasilkan kumpulan data agregat yang terdiri dari beberapa kolom per pasien per catatan, seperti yang ditunjukkan pada gambar berikut. Tabel berikut memberikan catatan pasien dalam antarmuka gaya tabular dengan waktu dalam kolom (5 interval selama 48 jam) dan observasi tanda vital dalam baris. Setiap baris mewakili variabel fisiologis, dan setiap kolom mewakili nilainya yang dicatat selama rentang waktu 48 jam untuk seorang pasien.
Parameter fisiologis | Bagan_Waktu_0 | Bagan_Waktu_1 | Bagan_Waktu_2 | Bagan_Waktu_3 | Bagan_Waktu_4 |
Mata Skor Koma Glasgow | 4 | 4 | 4 | 4 | 4 |
FiO2 | 15 | 15 | 15 | 15 | 15 |
Mata Skor Koma Glasgow | 15 | 15 | 15 | 15 | 15 |
Heart Rate | 101 | 100 | 98 | 99 | 94 |
Invasif BP Diastolik | 73 | 68 | 60 | 64 | 61 |
Tekanan darah sistolik invasif | 124 | 122 | 111 | 105 | 116 |
Tekanan arteri rata-rata (mmHg) | 77 | 77 | 77 | 77 | 77 |
Motor Skor Koma Glasgow | 6 | 6 | 6 | 6 | 6 |
02 Saturasi | 97 | 97 | 97 | 97 | 97 |
Tingkat pernapasan | 19 | 19 | 19 | 19 | 19 |
Suhu (C) | 36 | 36 | 36 | 36 | 36 |
Skor Koma Glasgow Verbal | 5 | 5 | 5 | 5 | 5 |
tinggi masuk | 162 | 162 | 162 | 162 | 162 |
kelas masuk | 96 | 96 | 96 | 96 | 96 |
usia | 72 | 72 | 72 | 72 | 72 |
apaheadmissiondx | 143 | 143 | 143 | 143 | 143 |
etnisitas | 3 | 3 | 3 | 3 | 3 |
jenis kelamin | 1 | 1 | 1 | 1 | 1 |
glukosa | 128 | 128 | 128 | 128 | 128 |
rumah sakitmengakuoffset | -436 | -436 | -436 | -436 | -436 |
status keluar rumah sakit | 0 | 0 | 0 | 0 | 0 |
itemoffset | -6 | -1 | 0 | 1 | 2 |
pH | 7 | 7 | 7 | 7 | 7 |
pasienunitstayid | 2918620 | 2918620 | 2918620 | 2918620 | 2918620 |
unitdischargeoffset | 1466 | 1466 | 1466 | 1466 | 1466 |
status pelepasan unit | 0 | 0 | 0 | 0 | 0 |
Kami menggunakan fitur numerik dan kategorikal dan mengelompokkan semua catatan dari setiap pasien untuk meratakannya menjadi rangkaian waktu catatan tunggal. Tujuh fitur kategorikal (Diagnosis penerimaan, Etnisitas, Jenis Kelamin, Total Skor Koma Glasgow, Mata Skor Koma Glasgow, Motor Skor Koma Glasgow, dan Verbal Skor Koma Glasgow dikonversi menjadi vektor penyandian satu-panas) berisi 429 nilai unik dan diubah menjadi satu -embedding panas. Untuk mencegah kebocoran data di seluruh server node pelatihan, kami membagi data berdasarkan ID rumah sakit dan menyimpan semua catatan rumah sakit di satu node.
Ikhtisar solusi
Diagram berikut menampilkan arsitektur penerapan multi-akun FedML di AWS. Ini mencakup dua klien (Peserta A dan Peserta B) dan agregator model.
Arsitektur terdiri dari tiga terpisah Cloud komputasi elastis Amazon (Amazon EC2) yang berjalan di akun AWS-nya sendiri. Masing-masing dari dua instans pertama dimiliki oleh klien, dan instans ketiga dimiliki oleh agregator model. Akun terhubung melalui peering VPC untuk memungkinkan model dan bobot ML dipertukarkan antara klien dan agregator. gRPC digunakan sebagai backend komunikasi untuk komunikasi antara agregator model dan klien. Kami menguji pengaturan komputasi terdistribusi berbasis akun tunggal dengan satu server dan dua node klien. Setiap instans ini dibuat menggunakan AMI Amazon EC2 khusus dengan dependensi FedML yang diinstal sesuai dengan Panduan instalasi FedML.ai.
Siapkan peering VPC
Setelah Anda meluncurkan tiga instans di akun AWS masing-masing, Anda membuat peering VPC antar akun melalui Cloud Pribadi Virtual Amazon (VPC Amazon). Untuk menyiapkan koneksi peering VPC, pertama-tama buat permintaan untuk melakukan peering dengan VPC lain. Anda dapat meminta koneksi peering VPC dengan VPC lain di akun Anda, atau dengan VPC di akun AWS yang berbeda. Untuk mengaktifkan permintaan, pemilik VPC harus menyetujui permintaan tersebut. Untuk tujuan demonstrasi ini, kami menyiapkan koneksi peering antara VPC di akun yang berbeda tetapi di Wilayah yang sama. Untuk konfigurasi peering VPC lainnya, lihat Buat koneksi peering VPC.
Sebelum memulai, pastikan Anda memiliki nomor akun AWS dan ID VPC dari VPC untuk di-peer.
Meminta koneksi peering VPC
Untuk membuat koneksi peering VPC, selesaikan langkah-langkah berikut:
- Di konsol Amazon VPC, di panel navigasi, pilih Mengintip koneksi.
- Pilih Buat koneksi peering.
- Untuk Tag nama koneksi peering, Anda dapat menamai koneksi peering VPC secara opsional. Dengan melakukannya, tag akan dibuat dengan kunci nama dan nilai yang Anda tentukan. Tag ini hanya dapat dilihat oleh Anda; pemilik peer VPC dapat membuat tag mereka sendiri untuk koneksi peering VPC.
- Untuk VPC (Peminta), pilih VPC di akun Anda untuk membuat koneksi peering.
- Untuk Akun, pilih Akun lain.
- Untuk ID Akun, masukkan ID akun AWS pemilik VPC penerima.
- Untuk VPC (Penerima), masukkan ID VPC untuk membuat koneksi peering VPC.
- Di kotak dialog konfirmasi, pilih OK.
- Pilih Buat koneksi peering.
Terima koneksi peering VPC
Seperti disebutkan sebelumnya, koneksi peering VPC harus diterima oleh pemilik VPC yang telah dikirimi permintaan koneksi. Selesaikan langkah-langkah berikut untuk menerima permintaan koneksi peering:
- Di konsol Amazon VPC, gunakan pemilih Wilayah untuk memilih Wilayah VPC penerima.
- Di panel navigasi, pilih Mengintip koneksi.
- Pilih koneksi peering VPC yang tertunda (statusnya adalah
pending-acceptance
), dan pada tindakan menu, pilih Menerima permintaan. - Di kotak dialog konfirmasi, pilih Ya, Terima.
- Dalam dialog konfirmasi kedua, pilih Ubah tabel rute saya sekarang untuk langsung membuka halaman tabel rute, atau pilih Penyelesaian untuk melakukan ini nanti.
Perbarui tabel rute
Untuk mengaktifkan lalu lintas IPv4 pribadi antar instans di VPC yang di-peering, tambahkan rute ke tabel rute yang terkait dengan subnet untuk kedua instans. Tujuan rute adalah blok CIDR (atau bagian dari blok CIDR) dari peer VPC, dan targetnya adalah ID dari koneksi peering VPC. Untuk informasi lebih lanjut, lihat Konfigurasikan tabel rute.
Perbarui grup keamanan Anda untuk mereferensikan grup VPC peer
Perbarui aturan masuk atau keluar untuk grup keamanan VPC Anda untuk mereferensikan grup keamanan di VPC yang di-peering. Ini memungkinkan lalu lintas mengalir melintasi instans yang terkait dengan grup keamanan yang direferensikan di VPC yang di-peering. Untuk detail selengkapnya tentang menyiapkan grup keamanan, lihat Perbarui grup keamanan Anda untuk mereferensikan grup keamanan peer.
Konfigurasikan FedML
Setelah Anda menjalankan ketiga instans EC2, sambungkan ke masing-masing instans dan lakukan langkah-langkah berikut:
- Clone file repositori FedML.
- Berikan data topologi tentang jaringan Anda di file konfigurasi
grpc_ipconfig.csv
.
File ini dapat ditemukan di FedML/fedml_experiments/distributed/fedavg
di repositori FedML. File tersebut berisi data tentang server dan klien serta pemetaan node yang ditunjuk, seperti FL Server – Node 0, FL Client 1 – Node 1, dan FL Client 2 – Node2.
- Tentukan file konfigurasi pemetaan GPU.
File ini dapat ditemukan di FedML/fedml_experiments/distributed/fedavg
di repositori FedML. Berkas gpu_mapping.yaml
terdiri dari data konfigurasi untuk pemetaan server klien ke GPU yang sesuai, seperti yang ditampilkan dalam cuplikan berikut.
Setelah Anda menentukan konfigurasi ini, Anda siap menjalankan klien. Perhatikan bahwa klien harus dijalankan sebelum memulai server. Sebelum melakukannya, mari siapkan pemuat data untuk percobaan.
Sesuaikan FedML untuk eICU
Untuk menyesuaikan repositori FedML untuk kumpulan data eICU, buat perubahan berikut pada data dan pemuat data.
Data
Tambahkan data ke folder data yang telah ditetapkan sebelumnya, seperti yang ditunjukkan pada tangkapan layar berikut. Anda dapat menempatkan data di folder mana pun pilihan Anda, selama jalur tersebut dirujuk secara konsisten dalam skrip pelatihan dan memiliki akses yang diaktifkan. Untuk mengikuti skenario HCLS dunia nyata, di mana data lokal tidak dibagikan di seluruh situs, pisahkan dan ambil sampel data sehingga tidak ada tumpang tindih ID rumah sakit di kedua klien. Ini memastikan data rumah sakit dihosting di servernya sendiri. Kami juga menerapkan batasan yang sama untuk membagi data ke dalam rangkaian pelatihan/pengujian dalam setiap klien. Setiap rangkaian pelatihan/pengujian di seluruh klien memiliki rasio label positif dan negatif 1:10, dengan sekitar 27,000 sampel dalam pelatihan dan 3,000 sampel dalam pengujian. Kami menangani ketidakseimbangan data dalam pelatihan model dengan fungsi weighted loss.
Pemuat data
Setiap klien FedML memuat data dan mengubahnya menjadi tensor PyTorch untuk pelatihan GPU yang efisien. Perluas nomenklatur FedML yang ada untuk menambahkan folder untuk data eICU di data_processing
folder.
Cuplikan kode berikut memuat data dari sumber data. Ini memproses data dan mengembalikan satu item pada satu waktu melalui __getitem__
fungsi.
Melatih model ML dengan satu titik data sekaligus itu membosankan dan menghabiskan waktu. Pelatihan model biasanya dilakukan pada sekumpulan titik data di setiap klien. Untuk mengimplementasikan ini, pemuat data di data_loader.py
skrip mengonversi larik NumPy menjadi tensor Torch, seperti yang ditampilkan dalam cuplikan kode berikut. Perhatikan bahwa FedML menyediakan dataset.py
dan data_loader.py
skrip untuk data terstruktur dan tidak terstruktur yang dapat Anda gunakan untuk perubahan khusus data, seperti dalam proyek PyTorch mana pun.
Impor pemuat data ke dalam skrip pelatihan
Setelah Anda membuat pemuat data, impor ke dalam kode FedML untuk pelatihan model ML. Seperti set data lainnya (misalnya, CIFAR-10 dan CIFAR-100), muat data eICU ke main_fedavg.py
skrip di jalan FedML/fedml_experiments/distributed/fedavg/
. Di sini, kami menggunakan rata-rata federasi (fedavg
) fungsi agregasi. Anda dapat mengikuti metode serupa untuk mengatur main
file untuk fungsi agregasi lainnya.
Kami memanggil fungsi pemuat data untuk data eICU dengan kode berikut:
Tentukan modelnya
FedML mendukung beberapa algoritme pembelajaran mendalam siap pakai untuk berbagai tipe data, seperti data tabular, teks, gambar, grafik, dan Internet of Things (IoT). Muat model khusus untuk eICU dengan dimensi input dan output yang ditentukan berdasarkan dataset. Untuk bukti pengembangan konsep ini, kami menggunakan model regresi logistik untuk melatih dan memprediksi angka kematian pasien dengan konfigurasi default. Cuplikan kode berikut menunjukkan pembaruan yang kami lakukan pada main_fedavg.py
naskah. Perhatikan bahwa Anda juga dapat menggunakan model PyTorch khusus dengan FedML dan mengimpornya ke main_fedavg.py
Script.
Jalankan dan pantau pelatihan FedML di AWS
Video berikut menunjukkan proses pelatihan yang diinisialisasi di masing-masing klien. Setelah kedua klien terdaftar untuk server, buat proses pelatihan server yang melakukan agregasi model federasi.
Untuk mengkonfigurasi server dan klien FL, selesaikan langkah-langkah berikut:
- Jalankan Klien 1 dan Klien 2.
Untuk menjalankan klien, masukkan perintah berikut dengan ID node yang sesuai. Misalnya, untuk menjalankan Client 1 dengan node ID 1, jalankan dari baris perintah:
- Setelah kedua instance klien dimulai, mulai instance server menggunakan perintah yang sama dan ID node yang sesuai per konfigurasi Anda di
grpc_ipconfig.csv file
. Anda dapat melihat bobot model diteruskan ke server dari instance klien.
- Kami melatih model FL selama 50 zaman. Seperti yang Anda lihat di video di bawah ini, bobot ditransfer antara node 0, 1, dan 2, yang menunjukkan bahwa pelatihan berjalan seperti yang diharapkan secara federasi.
- Terakhir, pantau dan lacak perkembangan pelatihan model FL di berbagai node dalam klaster menggunakan bobot dan bias (wandb), seperti yang ditunjukkan pada tangkapan layar berikut. Silakan ikuti langkah-langkah yang tercantum di sini untuk menginstal wandb dan mengatur pemantauan untuk solusi ini.
Video berikut menangkap semua langkah ini untuk memberikan demonstrasi FL menyeluruh di AWS menggunakan FedML:
Kesimpulan
Dalam postingan ini, kami menunjukkan cara menerapkan kerangka kerja FL, berdasarkan FedML sumber terbuka, di AWS. Ini memungkinkan Anda melatih model ML pada data terdistribusi, tanpa perlu membagikan atau memindahkannya. Kami menyiapkan arsitektur multi-akun, di mana dalam skenario dunia nyata, rumah sakit atau organisasi perawatan kesehatan dapat bergabung dengan ekosistem untuk mendapatkan keuntungan dari pembelajaran kolaboratif sambil mempertahankan tata kelola data. Kami menggunakan kumpulan data eICU multi-rumah sakit untuk menguji penerapan ini. Framework ini juga dapat diterapkan pada use case dan domain lainnya. Kami akan terus memperluas pekerjaan ini dengan mengotomatiskan penerapan melalui infrastruktur sebagai kode (menggunakan Formasi AWS Cloud), lebih lanjut menggabungkan mekanisme pelestarian privasi, dan meningkatkan interpretabilitas dan keadilan model FL.
Harap tinjau presentasi di re:MARS 2022 yang berfokus pada “Pembelajaran Federasi Terkelola di AWS: Studi kasus untuk perawatan kesehatan” untuk panduan mendetail tentang solusi ini.
Referensi
[1] Pollard, Tom J., dkk. “Database Penelitian Kolaboratif eICU, database multi-pusat yang tersedia secara gratis untuk penelitian perawatan kritis.” Data ilmiah 5.1 (2018): 1-13.
[2] Yin, X., Zhu, Y. dan Hu, J., 2021. Sebuah survei komprehensif tentang pembelajaran federasi yang menjaga privasi: Taksonomi, ulasan, dan arah masa depan. Survei Komputasi ACM (CSUR), 54(6), hal.1-36.
[3] Sheikhalishahi, Seyedmostafa, Vevake Balaraman, dan Venet Osmani. “Membandingkan model pembelajaran mesin pada kumpulan data perawatan kritis eICU multi-pusat.” Salah satu 15.7 (2020): e0235424.
Tentang Penulis
Vidya Sagar Ravipati adalah Manajer di Lab Solusi Amazon ML, di mana dia memanfaatkan pengalamannya yang luas dalam sistem terdistribusi skala besar dan hasratnya pada pembelajaran mesin untuk membantu pelanggan AWS di berbagai vertikal industri mempercepat adopsi AI dan cloud mereka. Sebelumnya, dia adalah Insinyur Pembelajaran Mesin di Layanan Konektivitas di Amazon yang membantu membangun platform personalisasi dan pemeliharaan prediktif.
Olivia Choudhury, PhD, adalah Arsitek Solusi Mitra Senior di AWS. Dia membantu mitra, dalam domain Kesehatan dan Ilmu Hayati, merancang, mengembangkan, dan menskalakan solusi canggih yang memanfaatkan AWS. Dia memiliki latar belakang genomik, analitik perawatan kesehatan, pembelajaran federasi, dan pembelajaran mesin yang menjaga privasi. Di luar pekerjaannya, dia bermain permainan papan, melukis pemandangan, dan mengoleksi manga.
Wajah Aziz adalah Principal Machine Learning dan Arsitek Solusi HPC di AWS, di mana dia berfokus untuk membantu pelanggan perawatan kesehatan dan ilmu kehidupan memanfaatkan teknologi AWS untuk mengembangkan solusi ML dan HPC yang canggih untuk berbagai kasus penggunaan seperti Pengembangan Obat, Uji Klinis, dan Pembelajaran Mesin yang Menjaga Privasi. Di luar pekerjaan, Wajahat gemar menjelajah alam, hiking, dan membaca.
Divya Bhargavi adalah Ilmuwan Data dan Pemimpin Vertikal Media dan Hiburan di Lab Solusi Amazon ML, di mana dia memecahkan masalah bisnis bernilai tinggi untuk pelanggan AWS menggunakan Machine Learning. Dia mengerjakan pemahaman gambar/video, sistem rekomendasi grafik pengetahuan, kasus penggunaan iklan prediktif.
Ujjwal Ratan adalah pemimpin untuk AI/ML dan Ilmu Data di Unit Bisnis AWS Healthcare dan Life Science dan juga Arsitek Solusi AI/ML Utama. Selama bertahun-tahun, Ujjwal telah menjadi pemimpin pemikiran dalam industri perawatan kesehatan dan ilmu kehidupan, membantu beberapa organisasi Global Fortune 500 mencapai tujuan inovasi mereka dengan mengadopsi pembelajaran mesin. Karyanya yang melibatkan analisis pencitraan medis, teks klinis tidak terstruktur, dan genomik telah membantu AWS membangun produk dan layanan yang menyediakan diagnosis dan terapi yang sangat dipersonalisasi dan tepat sasaran. Di waktu luangnya, dia senang mendengarkan (dan memainkan) musik dan melakukan perjalanan yang tidak direncanakan bersama keluarganya.
Chaoyang Dia adalah Co-founder dan CTO dari FedML, Inc., sebuah startup yang berjalan untuk membangun komunitas AI yang terbuka dan kolaboratif dari mana saja dalam skala apa pun. Penelitiannya berfokus pada algoritma, sistem, dan aplikasi pembelajaran mesin terdistribusi/federasi. Ia menerima gelar Ph.D. dalam Ilmu Komputer dari University of Southern California, Los Angeles, AS.
Salman Avestimehr adalah Co-founder dan CEO FedML, Inc., sebuah startup yang berjalan untuk membangun komunitas AI yang terbuka dan kolaboratif dari mana saja dalam skala apa pun. Salman Avestimehr adalah pakar terkenal dunia dalam pembelajaran federasi dengan lebih dari 20 tahun kepemimpinan Litbang di dunia akademis dan industri. Dia adalah Profesor Dekan dan direktur pengukuhan USC-Amazon Center on Trustworthy Machine Learning di University of Southern California. Dia juga pernah menjadi Sarjana Amazon di Amazon. Dia adalah pemenang penghargaan Presiden Amerika Serikat atas kontribusinya yang mendalam dalam teknologi informasi, dan seorang Fellow dari IEEE.
- Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
- Platoblockchain. Intelijen Metaverse Web3. Pengetahuan Diperkuat. Akses Di Sini.
- Sumber: https://aws.amazon.com/blogs/machine-learning/part-2-federated-learning-on-aws-with-fedml-health-analytics-without-sharing-sensitive-data/
- 000
- 1
- 10
- 100
- 20 tahun
- 2018
- 2020
- 2021
- 2022
- 28
- 7
- 9
- a
- Tentang Kami
- atas
- Akademi
- mempercepat
- Setuju
- mengakses
- diakses
- Akun
- akuntabilitas
- Akun
- Mencapai
- di seluruh
- Bertindak
- menyesuaikan
- alamat
- mengaku
- diadopsi
- Mengadopsi
- Adopsi
- pengiklanan
- Setelah
- pengumpulan
- Agregator
- AI
- AI / ML
- algoritma
- Semua
- memungkinkan
- Amazon
- Amazon EC2
- analisis
- analisis
- menganalisa
- menganalisis
- dan
- Angeles
- Lain
- di manapun
- aplikasi
- terapan
- pendekatan
- sesuai
- arsitektur
- terkait
- mengotomatisasi
- tersedia
- hadiah
- AWS
- Backend
- latar belakang
- berdasarkan
- karena
- sebelum
- makhluk
- di bawah
- patokan
- manfaat
- antara
- Memblokir
- Blog
- papan
- Permainan papan
- Kotak
- BP
- membangun
- Bangunan
- dibangun di
- bisnis
- california
- panggilan
- menangkap
- yang
- kasus
- studi kasus
- kasus
- pusat
- terpusat
- ceo
- tantangan
- Perubahan
- mengubah
- pilihan
- Pilih
- terpilih
- kelas
- klasifikasi
- klien
- klien
- Klinis
- uji klinis
- awan
- adopsi cloud
- Kelompok
- Co-founder
- kode
- Kelompok
- kolaboratif
- mengumpulkan
- Kolom
- Kolom
- Koma
- Komunikasi
- masyarakat
- membangun komunitas
- lengkap
- luas
- menghitung
- komputer
- Komputer Ilmu
- komputasi
- konsep
- konsep
- konfigurasi
- Terhubung
- terhubung
- koneksi
- Konektivitas
- dianggap
- konsul
- terus
- kontribusi
- dikonversi
- Sesuai
- Biaya
- membuat
- dibuat
- menciptakan
- membuat
- kritis
- CTO
- adat
- pelanggan
- menyesuaikan
- data
- akses data
- kebocoran data
- titik data
- privasi data
- ilmu data
- ilmuwan data
- berbagi data
- Basis Data
- Terdesentralisasi
- keputusan
- mendalam
- belajar mendalam
- Default
- mendemonstrasikan
- menyebarkan
- penyebaran
- dijelaskan
- Mendesain
- tujuan
- terperinci
- rincian
- menentukan
- mengembangkan
- berkembang
- Pengembangan
- dialog
- berbeda
- sulit
- ukuran
- langsung
- Kepala
- didistribusikan
- komputasi terdistribusi
- sistem terdistribusi
- distribusi
- Tidak
- melakukan
- domain
- domain
- obat
- pengembangan obat
- selama
- setiap
- Terdahulu
- ekosistem
- efisiensi
- efisien
- aktif
- diaktifkan
- memungkinkan
- ujung ke ujung
- insinyur
- memastikan
- Memastikan
- Enter
- Menghibur
- zaman
- kesalahan
- menetapkan
- Eter (ETH)
- peristiwa
- contoh
- ada
- diharapkan
- pengalaman
- ahli
- menyelidiki
- memperpanjang
- mata
- keadilan
- keluarga
- Fitur
- sesama
- Angka
- File
- File
- Akhirnya
- Pertama
- aliran
- Fokus
- terfokus
- berfokus
- mengikuti
- berikut
- Nasib
- ditemukan
- Kerangka
- Gratis
- dari
- fungsi
- fungsi
- lebih lanjut
- Selanjutnya
- masa depan
- Games
- Gender
- genomik
- gif
- Aksi
- Go
- Anda
- pemerintahan
- GPU
- grafik
- grafik
- Kelompok
- Grup
- pedoman
- menangani
- Kesehatan
- asuransi kesehatan
- kesehatan
- Dimiliki
- membantu
- membantu
- membantu
- membantu
- di sini
- sangat
- mendaki
- sejarah
- Rumah sakit
- rumah sakit
- host
- JAM
- Seterpercayaapakah Olymp Trade? Kesimpulan
- HPC
- HTML
- HTTPS
- ideal
- IEEE
- gambar
- Pencitraan
- ketidakseimbangan
- melaksanakan
- mengimpor
- memperbaiki
- meningkatkan
- in
- Perdana
- Inc
- termasuk
- menggabungkan
- indeks
- industri
- informasi
- Infrastruktur
- Innovation
- memasukkan
- install
- contoh
- asuransi
- Antarmuka
- Internet
- internet hal-hal
- idiot
- IT
- ikut
- kunci
- pengetahuan
- Label
- laboratorium
- Kekurangan
- besar-besaran
- jalankan
- memimpin
- pemimpin
- Kepemimpinan
- pengetahuan
- Panjang
- Leverage
- memanfaatkan
- leveraging
- Hidup
- Ilmu Kehidupan
- Biologi
- baris
- Daftar
- Daftar
- Listening
- memuat
- pemuat
- beban
- lokal
- lokal
- terletak
- Panjang
- itu
- Los Angeles
- lepas
- mesin
- Mesin belajar
- terbuat
- memelihara
- pemeliharaan
- membuat
- MEMBUAT
- mengelola
- manajer
- cara
- pemetaan
- Maret
- cara
- pengukuran
- Media
- medis
- pencitraan medis
- Pelajari
- tersebut
- metode
- metode
- MIT
- Mengurangi
- ML
- Algoritme ML
- model
- model
- Memantau
- pemantauan
- lebih
- Motor
- pindah
- bergerak
- beberapa
- musik
- nama
- Alam
- Navigasi
- Perlu
- dibutuhkan
- kebutuhan
- negatif
- jaringan
- simpul
- node
- jumlah
- mati rasa
- ONE
- Buka
- open source
- Operasi
- optimal
- organisasi
- Lainnya
- di luar
- sendiri
- dimiliki
- pemilik
- pane
- parameter
- bagian
- pasangan
- rekan
- Lulus
- gairah
- path
- pasien
- pasien
- buah pir
- melakukan
- prestasi
- melakukan
- Personalisasi
- Personalized
- pipa saluran
- Tempat
- rencana
- Platform
- plato
- Kecerdasan Data Plato
- Data Plato
- bermain
- silahkan
- Titik
- poin
- pose
- positif
- Pos
- Praktis
- tepat
- meramalkan
- memprediksi
- ramalan
- menyajikan
- presentasi
- presidensial
- tekanan
- mencegah
- sebelumnya
- Utama
- pribadi
- swasta
- Masalah
- masalah
- proses
- Produksi
- Produk
- Produk dan Layanan
- Profesor
- maju
- deret
- melarang
- proyek
- bukti
- bukti konsep
- mengusulkan
- memberikan
- menyediakan
- menyediakan
- di depan umum
- tujuan
- pytorch
- R & D
- acak
- LANGKA
- Penilaian
- perbandingan
- RE
- Bacaan
- siap
- dunia nyata
- diterima
- Rekomendasi
- catatan
- tercatat
- arsip
- wilayah
- regresi
- beregulasi
- regulator
- menghapus
- gudang
- merupakan
- permintaan
- membutuhkan
- kebutuhan
- Persyaratan
- membutuhkan
- penelitian
- itu
- kembali
- Pengembalian
- ulasan
- jalan
- kira-kira
- Rute
- BARIS
- aturan
- Run
- berjalan
- sama
- Skala
- Ilmu
- ILMU PENGETAHUAN
- ilmuwan
- script
- mulus
- Kedua
- keamanan
- Mencari
- terpilih
- DIRI
- senior
- peka
- Seri
- Layanan
- set
- set
- pengaturan
- penyiapan
- tujuh
- beberapa
- Share
- berbagi
- berbagi
- ditunjukkan
- Pertunjukkan
- menandatangani
- Tanda
- mirip
- Demikian pula
- tunggal
- situs web
- Situs
- So
- larutan
- Solusi
- Memecahkan
- sumber
- Selatan
- rentang
- tertentu
- membagi
- stabil
- standar
- awal
- mulai
- startup
- state-of-the-art
- Negara
- Status
- tinggal
- Tangga
- penyimpanan
- tersusun
- data terstruktur dan tidak terstruktur
- Belajar
- gaya
- subnet
- seperti itu
- cukup
- mendukung
- Mendukung
- Survei
- sistem
- sistem
- tabel
- MENANDAI
- pengambilan
- target
- ditargetkan
- tugas
- taksonomi
- Teknologi
- Teknologi
- Template
- uji
- Grafik
- mereka
- terapi
- hal
- Ketiga
- pikir
- tiga
- Melalui
- di seluruh
- waktu
- Seri waktu
- membuang-buang waktu
- untuk
- alat
- alat
- obor
- Penglihatan obor
- Total
- jalur
- lalu lintas
- Pelatihan VE
- Pelatihan
- ditransfer
- uji
- terpercaya
- jenis
- khas
- pokok
- pemahaman
- unik
- satuan
- Serikat
- Amerika Serikat
- unit
- universitas
- University of Southern California
- Memperbarui
- Pembaruan
- us
- Amerika Serikat
- menggunakan
- gunakan case
- nilai
- Nilai - Nilai
- variasi
- berbagai
- Luas
- vertikal
- melalui
- Video
- maya
- terlihat
- vital
- walkthrough
- yang
- sementara
- SIAPA
- lebar
- akan
- dalam
- tanpa
- Kerja
- bekerja
- terkenal di dunia
- X
- tahun
- Anda
- zephyrnet.dll