Top Machine Learning Papers To Read In 2023

Republicat de Platon

Urmaritori: 0

Cele mai bune lucrări de învățare automată de citit în 2023
Imagini de pc.vector on Freepik

Învățarea automată este un domeniu mare, cu noi cercetări care apar frecvent. Este un domeniu fierbinte în care mediul academic și industria continuă să experimenteze lucruri noi pentru a ne îmbunătăți viața de zi cu zi.

În ultimii ani, IA generativă a schimbat lumea datorită aplicării învățării automate. De exemplu, ChatGPT și Stable Diffusion. Chiar și cu 2023 dominat de IA generativă, ar trebui să fim conștienți de multe mai multe descoperiri ale învățării automate.

Iată cele mai importante lucrări de învățare automată de citit în 2023, astfel încât să nu ratați tendințele viitoare.

1) Învățarea frumuseții în cântece: Înfrumusețator de voce Neural Singing

Singing Voice Beautifying (SVB) este o sarcină nouă în AI generativă care își propune să îmbunătățească vocea cântând amator într-una frumoasă. Este exact scopul cercetării Liu și colab. (2022) când au propus un nou model generativ numit Neural Singing Voice Beautifier (NSVB).

NSVB este un model de învățare semi-supravegheat care utilizează un algoritm de mapare latentă care acționează ca un corector de înălțime și îmbunătățește tonul vocal. Lucrarea promite să îmbunătățească industria muzicală și merită verificată.

2) Descoperirea simbolică a algoritmilor de optimizare

Modelele de rețele neuronale profunde au devenit mai mari ca niciodată și au fost efectuate multe cercetări pentru a simplifica procesul de antrenament. Cercetare recentă a echipei Google (Chen şi colab. (2023)) a propus o nouă optimizare pentru rețeaua neuronală numită Lion (EvoLved Sign Momentum). Metoda arată că algoritmul este mai eficient din punct de vedere al memoriei și necesită o rată de învățare mai mică decât Adam. Este o cercetare grozavă care arată multe promisiuni pe care nu ar trebui să le ratezi.

3) TimesNet: Modelare 2D-Variație temporală pentru analiza generală a seriilor temporale

Analiza seriilor temporale este un caz de utilizare comun în multe afaceri; De exemplu, prognoza prețului, detectarea anomaliilor etc. Cu toate acestea, există multe provocări în analiza datelor temporale numai pe baza datelor curente (date 1D). Acesta este motivul pentru care Wu şi colab. (2023) propune o nouă metodă numită TimesNet pentru a transforma datele 1D în date 2D, care realizează o performanță deosebită în experiment. Ar trebui să citiți lucrarea pentru a înțelege mai bine această nouă metodă, deoarece ar ajuta mult analiza viitoarelor seri de timp.

4) OPT: Modele deschise de limbaj Transformer pre-antrenați

În prezent, ne aflăm într-o era AI generativă în care multe modele de limbaj mari au fost dezvoltate intens de companii. În mare parte, acest tip de cercetare nu ar lansa modelul lor sau ar fi doar disponibil comercial. Cu toate acestea, grupul de cercetare Meta AI (Zhang și colab. (2022)) încearcă să facă opusul lansând public modelul Open Pre-trained Transformers (OPT) care ar putea fi comparabil cu GPT-3. Lucrarea este un început excelent pentru înțelegerea modelului OPT și a detaliilor cercetării, deoarece grupul înregistrează toate detaliile din lucrare.

5) REaLTabFormer: Generarea de date relaționale și tabulare realiste folosind transformatoare

Modelul generativ nu se limitează doar la generarea de text sau imagini, ci și de date tabelare. Aceste date generate sunt adesea numite date sintetice. Multe modele au fost dezvoltate pentru a genera date tabulare sintetice, dar aproape niciun model pentru a genera date sintetice tabulare relaționale. Acesta este exact scopul Solatorio și Dupriez (2023) cercetare; crearea unui model numit REaLTabFormer pentru date relaționale sintetice. Experimentul a arătat că rezultatul este cu precizie apropiat de modelul sintetic existent, care ar putea fi extins la multe aplicații.

6) Învățarea prin întărire este (nu) pentru procesarea limbajului natural?: repere, linii de bază și elemente de bază pentru optimizarea politicii limbajului natural

Învățarea prin întărire din punct de vedere conceptual este o alegere excelentă pentru sarcina de procesare a limbajului natural, dar este adevărată? Aceasta este o întrebare care Ramamurthy și colab. (2022) incearca sa raspunzi. Cercetătorul introduce diverse biblioteci și algoritm care arată unde tehnicile de învățare prin întărire au un avantaj în comparație cu metoda supravegheată în sarcinile NLP. Este o lucrare recomandată de citit dacă doriți o alternativă pentru setul dvs. de abilități.

7) Tune-A-Video: One-Shot Tuning al modelelor de difuzie a imaginii pentru generarea text-to-video

Generarea text-to-image a fost mare în 2022, iar 2023 ar fi proiectat pe capacitatea text-to-video (T2V). Cercetare de către Wu şi colab. (2022) arată cum T2V poate fi extins la mai multe abordări. Cercetarea propune o nouă metodă Tune-a-Video care acceptă sarcini T2V, cum ar fi schimbarea subiectului și obiectului, transferul de stil, editarea atributelor etc. Este o lucrare grozavă de citit dacă sunteți interesat de cercetarea text-to-video.

8) PyGlove: Schimbul eficient de idei ML ca cod

Colaborarea eficientă este cheia succesului oricărei echipe, mai ales odată cu creșterea complexității în domeniile învățării automate. Pentru a crește eficiența, Peng şi colab. (2023) prezentați o bibliotecă PyGlove pentru a partaja cu ușurință ideile ML. Conceptul PyGlove este de a surprinde procesul de cercetare ML printr-o listă de reguli de corecție. Lista poate fi apoi reutilizată în orice scenă de experimente, ceea ce îmbunătățește eficiența echipei. Este o cercetare care încearcă să rezolve o problemă de învățare automată pe care mulți nu au făcut-o încă, așa că merită citită.

8) Cât de aproape este ChatGPT de experții umani? Corpus de comparație, evaluare și detectare

ChatGPT a schimbat atât de mult lumea. Este sigur să spunem că tendința ar merge în creștere de aici, deoarece publicul este deja în favoarea utilizării ChatGPT. Cu toate acestea, cum este rezultatul actual ChatGPT în comparație cu Experții umani? Este exact o întrebare care Guo și colab. (2023) incearca sa raspunzi. Echipa a încercat să colecteze date de la experți și rezultate prompte ChatGPT, pe care le-au comparat. Rezultatul arată că există diferențe implicite între ChatGPT și experți. Cercetarea este ceva ce cred că va fi ținut întrebat în viitor, deoarece modelul AI generativ va continua să crească în timp, așa că merită citit.

2023 este un an grozav pentru cercetarea învățării automate demonstrată de tendința actuală, în special de AI generativă, cum ar fi ChatGPT și Stable Diffusion. Există multe cercetări promițătoare pe care cred că nu ar trebui să le omitem, deoarece au arătat rezultate promițătoare care ar putea schimba standardul actual. În acest articol, v-am arătat 9 lucrări ML de top de citit, de la modelul generativ, modelul serii de timp până la eficiența fluxului de lucru. Sper că ajută.

Cornellius Yudha Wijaya este un asistent manager și redactor de date pentru știința datelor. În timp ce lucrează cu normă întreagă la Allianz Indonesia, îi place să împărtășească sfaturi Python și date prin intermediul rețelelor sociale și al rețelelor de scris.