Моя колежка работи върху ранно откриване на рака на гърдата, с тези системи заболяването може да се хване много по-рано, казва директорът на Лабораторията по компютърни науки и изкуствен интелект (CSAIL) в Масачузетския технологичен институт

Партньорството с машините има голям потенциал 

Не е нужно да чакаме да се появи нещо суперумно и потенциално проблематично, за да започне да се мисли по този въпрос 

Тези системи са много полезни, когато бъдат обучени да четат мамограми, да идентифицират потенциално опасни образувания в организма дори на ранен етап

Инструментите се подобряват и въпреки това правят грешки, които 7-годишно дете би намерило за смешни

- Професоре, преди около 2 г. бяхте в България - в INSAIT, виждате ли сега някаква разлика?

- Мисля че прозренията (научните пробиви - бел. ред.) със сигурност са се увеличили доста оттогава. През април 2023 г. институтът бе само на един етаж, имаше по-малко преподаватели и студенти. Много е приятно да наблюдавам развитието на този институт.

- Смятате ли, че сме близо до етапа, когато изкуственият интелект ще премине на ново ниво и ще стане полезен и за учените? Имам предвид не само да дава описания на явления или да преразказва научна статия, а да борави със сложни химични формули. Примерно в областта на биологията, молекулярната биология, физиката и да помага на учените да надграждат по-бързо знанията. Кога смятате, че ще се разгърне пълният му потенциал, който ще е ценен за науката?

- Мисля, че вече се движим в тази посока. Това, което е на повърхността, не е от полза за науката. Този AI няма да е като ChatGPT, който да питаш: “Хей, обясни какъв е този процес в клетката?”. В случая става дума за специализирани системи, които се обучават със специализирани данни с много специфични цели. Пример за този подход е AlphaFold (с помощта на този инструмент се разкриват милиони сложни 3D протеинови структури, което помага на учените да разберат как взаимодействат молекулите и рязко съкрати времето за изследвания - бел. ред.). Именно затова бе дадена Нобелова награда. Това е система, обучена със специализирани данни за конкретна цел и тя е много успешна. В моята изследователска група правим изследвания в сферата на биологията - сплайсинга на РНК (това е процес в генната експресия, при който некодиращите последователности се отстраняват от новосинтезирана РНК молекула, а останалите кодиращи последователности се свързват заедно - бел. ред.). Опитваме се да използваме изкуствения интелект, за да разберем как клетките манипулират РНК. Това е по-голямо предизвикателство от прилагането на изкуствен интелект в други области, защото не става въпрос само за това да се правят прогнози. Наистина искаме да се уверим, че с този инструмент те са точни. Че каквото и да бъде открито, то е в съответствие с всички наши предишни знания и с цялата научна литература. В повечето научни области вече имаме огромен набор от предварително съществуващи знания и на тази база трябва да се надгражда. Не можете просто да анализирате данните от нулата, без да вземете предвид всичко, което е налично. Така, че мисля, че започваме да се движим в тази посока - как да прилагаме тези инструменти за решаване на някои от тези наистина трудни научни проблеми, и то по начин, по който наистина можем да се доверим.

- Имате предвид, че получените изводи от работата със системата, базирана на AI трябва да се потвърдят в реалността.

- Да, резултатите трябва да се валидират експериментално. Необходимо е съвпадение между моделите и това, което действително се случва в природата. Това е едно наистина вълнуващо пространство, засяват се семената на бъдещия технологичен и научен прогрес, включително в биологията, което формира бъдещето на медицината. Това е, което ще формира бъдещето.

- Това ще е много полезно в разработването на терапии, в дизайна на лекарствата…

- Да. AI ще се прилага, включително за проблеми в областта на химията, молекулярния синтез, разработването на нови материали, в разбирането на динамиката на протеините, как те променят формата си, как един протеин се свързва с друг протеин. От тази гледна точка AI действително ще подпомогне научния прогрес. Става въпрос за изграждане на специализирани системи, които да включват всички тези знания. 

- Говоря с много ваши колеги от ЕС, които чрез AI се опитват да създадат консилиум от различни лекари - едната система да е обучена да чете рентгенови снимки и ядрено-магнитен резонанс, другата да е специализирана в кръвни изследвания, третата да е добър гастроентеролог, четвъртата - очен лекар, и т.н. Като всички те анализират данните за съответния пациент и помагат на човешкия лекар бързо да се насочи към някаква диагноза. Смятате ли, че сме по-близо до този етап?

- Да, мисля, че да. Една от моите колежки - Реджина Барзилай, работи върху ранното откриване на рака на гърдата, данните се анализират с AI и заболяването може да се хване много по-рано, отколкото от лекар. Причината е, че тези системи идентифицират много фини сигнали, които са твърде бегли, за да бъдат разпознати от медиците. От тази гледна точка смятам, че партньорството между хора и машини има голям потенциал, защото някои сигнали като тези от рентгенови лъчи, от ултразвук и друг медицински инструментариум понякога са много трудни за възприемане от хората, а машините са в състояние да ги засекат. Тези системи са много полезни и когато бъдат обучени на задачи от типа да четат мамограми, да идентифицират потенциално опасни образувания. Дори на много ранен етап, това е нещо, в което са изключително добри.

- Така се спестява много време за пациентите и може да се осигури адекватно лечение.

- Точно така. От друга страна, това, в което хората сме много добри, е, че сме в състояние да обработваме многообразна информация, забелязваме косвени, неформални сигнали. Примерно лекарят може да констатира някои признаци още в момента, в който пациентът пристъпи прага на кабинета му, дори преди да са му направени необходимите тестове. По същия начин системите, базирани на AI, ако ги обучим да улавят определен сигнал, те биха могли да го засекат. Освен това човек е много бързо адаптивен. Ако се замислим за началото на пандемията, човешкият лекар преглежда анализите, докладваните случаи и си казва, че има симптоми, за които трябва да внимава.

Ние сме в състояние да обучим системата да търси именно тези симптоми и тя може да стане много добра в тази сфера. Но тя не притежава способността на един медик, който може да чуе нещо по новините, да прочете в научните анализи нещо и да си каже, че трябва да започне да изследва за даден показател своите пациенти. Този вид гъвкавост е много труднопостижима за AI системите.

- С други думи, разбирам, че ние сме по-близо до базиран на AI дигитален Доктор Хаус, който ще става все по-добър на базата на микса между изкуствен интелект и естествения интелект на човешките лекари?

- Да, мисля, че тази комбинация между човек, способен да използва всички тези различни диагностични методи, инструменти, ще доведе до прогрес. Медицината все повече разчита на тестове и на нови диагностични инструменти, които не са съществували преди. Но ролята на лекаря е да интегрира цялата тази информация, да обедини всички улики, които получава от системите, с онова, което знае, с натрупания опит. И това може много да помогне да се прави една добра диагностика.

- Много хора от AI индустрията казват, че ни делят 2-3 години от създаването на AGI (Artificial General Intellect), който вероятно ще може да мисли и ще превъзхожда хората във всяко отношение. В същото време говоря с достатъчно европейски учени и те са доста по-скептични. Тяхната теза е, че изкуственият интелект в момента става все по-добър библиотекар, но е много далеч от реално осъзнаване и мисловен процес. Какво е вашето мнение?

- Мисля, че това се е превърнало в маркетингов термин. Замъглява се фактът, че тези машини са толкова способни, колкото са всъщност. Но те не са хора, нали така? Това означава, че нашите очаквания не трябва да се ръководят от очакванията, които имаме към хората. Ще има някои неща, в които те ще бъдат "свръхчовеци" и вече са такива. Но много корелации не са налице. Писането е добър пример. Ако граматиката, използвана от човек, е на високо ниво, ако знае как да структурира параграфите си, това вероятно означава, че е ходил на училище в продължение на много години и че има обща култура и опит. Но ако използваме AI инструментите, не можем да предположим това. От една страна, те могат да пишат много добре структурирани параграфи, подобряват се и въпреки това правят логически грешки, които 7-годишно дете би намерило за смешни. Забелязваме това и в програмирането, тези системи създават код за секунди, а на човек експерт това би му отнело много часове, за да ги разработи. Причината е, че машините имат енциклопедични познания за предишни алгоритми и бързо и ефективно могат да ги адаптират към нови задачи. На това ниво те са добри, понякога по-добри от някои докторанти. И въпреки това правят грешки, от които дори студент първокурсник би се срамувал.

Затова трябва да мислим от гледна точка на очакванията, които имаме към тези инструменти. Да, те имат специфични способности, но едно от големите предимства на хората, те все още не го притежават - а това е способността ни да обработваме, да усвояваме много ефективно нови знания и да ги включим в разбирането ни по даден въпрос. Понякога хората казват, че тези инструменти са много добри, колкото някой завършил бакалавърска степен, но не са, имат много пропуски.

На този етап не е много ясно дали ако се придържаме към сегашната траектория ще се появи магически някакъв напреднал AI. По-вероятно е, че се нуждаем от доста нови научни открития, за да получим подобни системи.

- Т.е. не сме много близо до AI с цялото знание?

- За да се направи правилно е необходимо новите знания да се включват много ефективно. Има компании, които са похарчили огромни ресурси, за да обучат тези инструменти на дадени знания. Но това може да се прави само с наличните открити данни. А е известно, че редица дейности разчитат не само на знания, които можете да намерите в интернет, но и на знанията, които са заключени вътре в самите компании.

- Както и в научните ресурси.

- Тоест всичко това трябва да се адаптира към модела, да се похарчат стотици милиони долари за обучение и всичко това ще трябва да се повтаря всеки път, когато се появят нови знания.

- С други думи, засега сме в безопасност?

- Засега. Много хора правят изследвания, пробиви, които позволяват да се направи следващата стъпка. Трудно е да се предвиди кога ще е следващият пробив, дали ще е след месец? И когато получите тази нова способност, ще се направи и следващата стъпка.

- Не е ясно и дали този следващ пробив, който може да преобърне всичко, няма да е след десетилетия. Примерно във физиката всички знаят, че е необходима нова физика, която да обедини и надгради сегашните теории, но такава все още няма.

- Може да се окаже, че ще са необходими много години, а понякога може да е нужен и един ден, просто някой изведнъж придобива ново прозрение, намира доказателство и така се прави следващата стъпка, следващото прозрение и т.н. Кой знае? Колкото повече хора се занимават с тези проблеми и колкото повече ресурси се отделят, колкото повече учим, толкова по-вероятно е, че това ще ни помогне да получим тези прозрения.

Затова фундаменталните изследвания са толкова важни. В крайна сметка технологиите и пробивите, които компаниите правят, се дължат на "семената", засети във фундаменталните изследвания.

- Как да се подготвим отсега, за да контролираме тази бъдеща мощна технология?

- Знаете ли, не е нужно да се стига до точката, в която ще възникне нещо суперумно и потенциално проблематично, нали? И мисля, че е полезно да се мисли достатъчно рано по този въпрос. Много важно е с това да се занимават хората в академичните среди, които нямат такива лични интереси, както специалистите от индустрията. Именно учените могат да са обективни по отношение на всичко, което би могло да се обърка. Както и какви потенциални проблеми биха могли да възникнат в бъдеще, преди тези машини да станат суперумни.

CV

• Проф. Лезама е директор на Лабораторията по компютърни науки и изкуствен интелект (CSAIL), която е най-голямата изследователска лаборатория по компютърни науки в Масачузетския технологичен институт

• Ръководи групата за компютърно програмиране

• Изследванията му са фокусирани върху програмния синтез, който е пресечната точка между програмните системи и изкуствения интелект. Причината е, че програмният синтез е свързан с използването на автоматизирано разсъждение и обучение, което внася повече автоматизация

1 г. български учени ще работят в легендарната лаборатория на Масачузетският технологичен институт (MIT) 

Масачузетският технологичен институт (MIT) има много малко подобни програми по света, но оттам избраха именно INSAIT за съвместна програма с Лабораторията им по изкуствен интелект. Това стана след почти година разговори, заяви проф. Мартин Вечев, научен директор и основател на Института по компютърни науки, изкуствен интелект и технологии (INSAIT) към СУ "Св. Климент Охридски".

За старта на програмата в София дойде проф. Армандо Солар-Лезама - директор на Лабораторията по изкуствен интелект на Масачузетския технологичен институт (MIT CSAIL)

На събитието в централата на INSAIT в "София Тех парк" бяха и вицепремиерът и министър на иновациите и растежа Томислав Дончев, министърът на образованието Красимир Вълчев, временно изпълняващият длъжността посланик на САЩ у нас Х. Мартин Макдауъл, зам.-ректорът на СУ чл.-кор. проф. Тони Спасов, изпълнителния директор на института Борислав Петров, и Десислава Тальокова, изпълнителен директор на Фондация "Америка за България".

"Програмата позволява на учени и изследователи, които се присъединяват към INSAIT, към СУ, да специализират и работят една година в MIT в Лабораторията по изкуствен интелект и информатика", каза проф. Вечев. След завръщането си в България участниците ще прилагат наученото и опита, който са придобили.

"Едно от нещата, които са от съществено значение за този вид екосистема, е да имаме най-добрите хора от цял свят, които да могат да си сътрудничат с нас. Възможността да изградим този вид сътрудничество с центрове за върхови постижения, които отглеждат силни изследователи по целия свят, е много, много важна", отбеляза проф. Армандо Солар-Лезама. Той е оптимист, че съвместното партньорство ще продължи дълги години.

MIT е признат за университет №1 в световните класации, а Лабораторията по компютърни науки и изкуствен интелект (CSAIL) е най-голямата изследователска лаборатория по компютърни науки там.

В нея са се родили редица технологии като автономните роботи, машинното обучение и др.