კოდის წერა სიღრმისეულად, უწყვეტად―Cloud ML და Microsoft DeepCoder პირველი ნაბიჯები ავტომატური კოდირებისკენ!
დღეს „სიღრმისეული“ არის მოდური: გვაქვს „სიღრმისეული“ შესწავლა, „სიღრმისეული“ ხედვა, „სიღრმისეული“ წერა… აქვეა სიღრმისეული კოდის წერაც, ხელოვნური ინტელექტის პროგრამული უზრუნველყოფის განვითარება ხანგრძლივი პროცესია, ამიტომ ხომ შეიძლება კოდირება ავტომატური პროცესი გახდეს? დეველოპერული მანქანები, რომლებსაც შეუძლია საკუთარი თავის განვითარება სიღრმისეული კოდირების გზით არის ავტომატიზაციის საბოლოო, ალბათ შეუცვლელი საზღვარი.
ასე დაიწყო 17 მაისს Sundar Pichai-ს დებიუტი, რომელიც წარმოგიდგენთ Cloud Auto ML-ს Google I/O 2017-2018 წლის ძირითად პრინციპებზე:
„დღეს უკეთესი მანქანების მოდელების შექმნა ნამდვილად შრომატევადი საქმეა. ჩვენ სურვილი გვქონდა ასობით ათასი დეველოპერის საშუალებით შესაძლებელი ყოფილიყო სასწავლო მანქანების გამოყენება. ნერვული ბადეები უკეთესი ნერვული ბადეებისკენ. ჩვენ ამ მიდგომას Auto ML-ს ვუწოდებთ, ეს არის როგორ ისწავლო შესწავლა“.
და ბოლოს, ნერვული ქსელების განვითარება ხშირად რუტინული ხასიათისაა, ამიტომ რატომ არ უნდა დავუშვათ, რომ სხვა ნერვულმა ქსელმა შეასრულოს ეს საქმე?
ამიტომ, Google-მა წარმოადგინა Cloud Auto ML, მისი ახალი AI-As-A-Service პარადიგმა.
→ დარეგისტრირდი ახლავე!
Cloud Auto ML
ამ პროექტის უკან დგას იდეა, რომელიც გულისხმობს დეველოპერების ჩამოშორებას კონფიგურაციის და კალიბრაციის „ბინძური სამუშოდან“, ყველაფრის დელეგირებას … ნერვულ ქსელებზე. ამ სამუშაოს დღეს დიდი დრო მიაქვს: ის ძირითადად მოიცავს წვრილმანბს და შეცდომებს, ზოგიერთი ალგორითმისა და პარამეტრის გამოყენების მცდელობებს, მათ კორექტირებას იქ, სადაც საჭიროა ან ნულიდან დაწყებასაც.
სისტემა მართავს ათასობით სიმულაციას, რათა დადგინდეს, თუ კოდის რომელი სფეროები შეიძლება გაუმჯობესდეს, ასრულებს ცვლილებებს და აგრძელებს ამგვარად მუშაობას, სანამ მიზანს არ მიაღწევს.
შეგვიძლია ეს მაიმუნების უსაზღვრო თეორემის მშვენიერ წარმოდგენად ჩავთვალოთ, რომლის თანახმად, მაიმუნი, რომელიც საბეჭდ მანქანაზე შემთხვევით ღილაკებს აჭერს ხელს და რომელსაც უსაზღვროდ დიდი დრო აქვს, ადრე თუ გვიან შეძლებს შეადგინოს ნებისმიერი მოცემული ტექსტი. მაგრამ ნაცვლად იმისა, რომ მაიმუნმა საბეჭდ მანქანაზე აკრიფოს რომეო და ჯულიეტა, Google-ის მიერ წარმოებულმა ხელოვნურმა ინტელექტმა შეძლო საკუთარი კოდირების რეპლიკაცია. ის ახერხებს გარკვეული საათების ან თუნდაც გარკვეული წუთების განმავლობაში გააკეთოს ის, რასაც საუკეთესო ადამიანი დეველოპერები აკეთებენ კვირების ან თვეების განმავლობაში.
GoogleNet
მაგალითად, GoogleNet-ის არქიტექტურა (იხ.ზემოთ) მრავალ წლიან ექსპერიმენტებს და დახვეწას მოითხოვდა. ამასთან, AutoML-მა შეძლო ქსელის მოდელების კომბინაციური სივრცის შესწავლა და მოკლე დროში მოახერხა სამუშაო გადაწყვეტილებების შეთავაზება. AutoML გამოვიდა ისეთი გადაწყვეტილებებით, რომლებსაც შეეძლო გაემარტივებინა გრადიენტის გაუჩინარების პრობლემა, ეს კარგად არის ცნობილი მათთვის, ვინც Deep Learning-ით მუშაობს. შემაშფოთებელი ალბათ ის არის, რომ არამარტო მისმა გადაწყვეტილებებმა შეძლეს რთული პრობლემების მოგვარება, არამედ ის, რომ მათ ეს გააკეთეს „ხრიკებით“, რომლებიც ადამიანებმა ჩვეულებრივ უარყვეს, რადგან არც ისე სასარგებლოდ ჩათვალეს.
AutoML არის დაპირისპირებული ქსელების სისტემა (გენერაციული დაპირისპირებული ქსელები, რომლებიც აქ უკვე იყო წარმოდგენილი): „გენერატორი“ ნერვული ქსელი გთავაზობთ არქიტექტურის მოდელს, რომლის მომზადება და შეფასება შესაძლებელია კონკრეტულ ამოცანაში. გამოხმაურება შემდეგ უკვე გამოიყენება გენერატორის ინფორმირებისთვის იმის შესახებ, თუ როგორ უნდა გააუმჯობესოს შემდეგი მოდელი. პროცესი რამდენჯერმე მეორდება, ახდენს ახალი არქიტექტურის გენერაციას, მათ ტესტირებას და გენერატორთან შეფასების შედეგების დაბრუნებას. საბოლოოდ, გენერატორი სწავლობს უფრო მეტი ალბათობის მინიჭებას არქიტექტურული კვლევის ადგილის სფეროებში, რომ გაუმჯობესდეს და დაბალი შედეგების მინიჭებას არქიტექტურის იმ ტიპებისთვის, რომლებიც უფრო დაბალ შედეგებს აღწევენ.
იმისთვის, რომ წარმოდგენა შეგექმნათ იმაზე თუ რა სახის არქიტექტურები იწვევს ამას, წარმოგიდგენთ მაგალითს, რომელიც დაფუძნებულია შემდეგი სიტყვის წინასწარმეტყველებაზე Penn Treebank-ში.
მარცხნივ, ადამიანის ექსპერტთა მიერ შექმნილი ნერვული ქსელი, მარჯვენა მხრიდან Auto ML-ის მიერ წარმოქმნილი ქსელი.
ეს მიდგომა ასევე დაგეხმარებათ იმის გარკვევაში, თუ რატომ მუშაობს ამ ტიპის არქიტექტურები ასე კარგად. მარჯვენა მხარეს მყოფ არქიტექტურას მრავალი არხი აქვს, ამიტომ გრადიენტს შეუძლია უკან გადინება, რაც შეიძლება დაგვეხმაროს იმის ახსნაში, თუ რატომ მუშაობს LSTM რეკურსიული ქსელები უკეთესად, ვიდრე სტანდარტული რეკურსიული ქსელები.
Google-ი გთავაზობთ Auto ML 1 თავის cloud პლათფორმაზე საინტერესო თვისებებით, როგორიცაა:
სწავლის გადაცემა ან განზოგადების უნარი იმის გამოყენებით რაც მან ისწავლა მონაცემთა ბაზაში ტრენინგის საშუალებით და მისი გადატანით სხვა მონაცემთა ბაზაში.
ავტომატური ოპტიმიზაცია, პლათფორმაზე უკვე არსებული სხვადასხვა ტექნიკის გამოყენება.
სურათის ეტიკეტირება, ეს არის ეტიკეტირების და „დასუფთავების“ მომსახურება, რომელსაც ადამიანები ასრულებენ, რათა გარანტირებული იყოს მომხმარებლის ხარისხის მონაცემები საკუთარი მოდელების მოსამზადებლად.
დროთა განმავლობაში, მომსახურებაში შევა IA-ს ყველა სფერო cloud-ში, კოდირების ოფციით, Google-ის მიმდინარე სერვისების ბლოკების სახით გამოყენებით.
DeepCoder
ჯერ კიდევ 2015 წელს, MIT-მ შეიმუშავა Prophet-ი, სისტემა, რომელსაც შეუძლია პროგრამული უზრუნველყოფის ბაგების აღმოფხვრა გარე საცავებიდან აღებული კოდის ნაწილების გამოყენებით.
ერთი წლის შემდეგ Microsoft-მა და კემბრიჯის უნივერსიტეტმა DeepCoder-ი ICLR-ში წარადგინეს. მისი მიზანი იყო შეემუშავებინა პროგრამები, რომლებიც შეძლებდნენ მარტივ (ამჟამად) მათემატიკურ პრობლემებთან შესაბამისობაში ყოფნას და რომლებიც დაფუძნებული იქნებოდა შეყვანის და გამოტანის მაგალითებზე. სხვა სიტყვებით რომ ვთქვათ, „შემქმენით პროგრამა, რომელიც შეძლებს ამ გადაწყვეტილებების შემუშავებას ამ რესურსებით“. კერძოდ, ამ მიდგომას ეწოდება IPS (ინდუქციური პროგრამის სინთეზი) ან ინდუქციური გზით პროგრამების სინთეზი.
„უცბად ადამიანი შეიძლება გახდეს ბევრად უფრო პროდუქტიული. ისინი შეძლებენ ისეთი სისტემების შექმნას, რომელთა შექმნა ადრე შეუძლებელი იყო. ავტომატიზაციის პოტენციალი, რომელსაც ამ ტიპის ტექნოლოგია გვთავაზობს, ნამდვილად შეიძლება მიუთითებდეს იმ უზარმაზარ [შემცირებაზე] იმ ძალის ოდენობაზე, რომელიც სჭირდება კოდის წარმოებას“.
„საშიში!“ თამაშის მსგავსად, ნერვულმა ქსელმა გაიარა ტრენინგი პროგრამის თვისებების წინასწარმეტყველებაში, რამაც შეიძლება წარმოქმნას მოწოდებული შედეგები. პროგნოზირების შედეგები გამოიყენება სისტემის საძიებო ტექნიკის გასაუმჯობესებლად, პროგრამირების იმ სხვადასხვა ენების გამოყენებით, რომლებიც ხელმისაწვდომია საცავებში. და ბოლოს, შერჩეული ნაწილები შეკრიბეს დომენის სპეციფიური ენის (DSL) გამოყენებით.
შედეგებმა აჩვენა დაჩქარების მასშტაბის ინსტრუქცია სტანდარტული პროგრამის სინთეზის ტექნიკაზე, რაც შესაძლებელს ხდის ამ მიდგომით მსგავსი სირთულის პრობლემების გადაჭრას, როგორც უმარტივესი პრობლემების, რომლებიც პროგრამირების კონკურსის ვებ გვერდებზე ვლინდება.
„საბოლოო ჯამში, მიდგომამ შეიძლება საშუალება მისცეს მათ, ვინც არ წერს კოდს, უბრალოდ აღწერონ იდეა პროგრამისთვის და საშუალება მისცენ სისტემას შექმნას ის“, – ამბობს Marc Brockschmidt-ი, კემბრიჯში, Microsoft Research-ში DeepCoder-ის ერთერთი შემქმნელი.
შემოგვიერთდით სტეპერების დიდ ოჯახში!
IT Academy Step ლიდერი IT სფეროში , ახლა უკვე 100+ ფილიალით!
