Експерти: AI в онкологията трябва да се използва предпазливо

„Изкуственият интелект вече се настани трайно в клиничните изпитвания и се отразява пряко на нашата работа. В същото време невронната мрежа е напълно имунизирана по отношение на етиката. В същото време ние сме тези, които носим отговорността – етичната и правната. Ходим върху тънък лед, но от друга страна сме наясно, че изкуственият интелект е неотменим.“ Това каза председателят на Българската асоциация по клинични проучвания доц. Борислав Борисов по време на дискусията Изкуствен интелект (AI) в клиничната онкология: етични, клинични и регулаторни норми в България, част от Национална онкологична конференция СОНМ-МОРЕ 2024, която се проведе от 17 до 20 октомври в курорта Златни пясъци.

„Съществува страх в медиците дали няма да бъдат изместени от Изкуствения интелект, но аз съм категорична, че връзката на доверие между лекаря и пациента няма да бъде разрушена. Това е така, защото AI се самообучава чрез големи бази данни, които може да съдържат и здравната информация“, каза AI правният експерт проф. Мариана Лазарова.

По думите й регулацията е много важна и много труда, защото информационните технологии се развиват много бързо, а правото е много консервативна материя. „Изкуственият интелект трудно подлежи на законодателство, най-вече заради голямото ветрило от казуси. Европейският Закон за изкуствения интелект изисква да се посочи изрично, че съдържанието, създадено по този начин, трябва да бъде ясно посочено“, допълни още проф. Лазарова.

Адв. Петя Мургова посочи, че етичните принципи на ниво ЕС включват съдържанието да е създадено и контролирано от човека, да има задължителна оценка на високорисковото използване на AI в сфери като онкологията в медицината, да е безопасен и прозрачен, да се регулира правото на правна защита при внедряване на AI и да има зачитане на неприкосновеност на личния живот и ограничение при използване на биометричните данни.

„Трябва много бързо да крачим с AI, но и да сме много предпазливи. Ако няма публично доверие в използването му и няма прозрачност за употребата му, ние не можем да го образоваме, ние не можем да образоваме и пациентите, и специалистите за ползите и рисковете от употребата му“, каза адв. Мургова.

Председателят на парламентарната здравна комисия д-р Александър Симидчиев заяви, че законотворчеството винаги изостава от морала и етиката. „Ако спазваме основният принцип в медицината „Първо не вреди“, трябва да мислим основно за рисковете при въвеждането му в медицинската практика и особено в онкология. Например може да прилагаме изкуствен интелект в превенцията и профилактиката, но във всяка една от следващите области, които стават все по-сложни и по-сложни, нивото на риск нараства. Рискът може да бъде дефиниран и в областта на очакваните ефекти – могат да бъдат нискорискови в областта на превода, но могат да бъдат високорискови, когато се касае за интервенция, когато лекарят не е сигурен какъв подход да предприеме, а AI да го насочи“, каза той.

„Не трябва да се заблуждаваме, че както има неправилна употреба на изкуствен интелект, така може да има и злонамерена употреба“, добави д-р Симидчиев.

„Докато се чудим доколко е сигурно всичко, тези с лошите намерения вече са натиснали копчето. Колкото повече се кумим дали да има регулация или не, дали е важен или не, толкова повече даваме шанс на тези, които използват изкуствен интелект на всички нива“, коментира и д-р Станимир Хасърджиев, представител на Националната пациентска организация.

В отговор медицинският онколог д-р Радослав Мангалджиев заяви, че ние все още не сме си направили труда да проверим дали аналоговите данни, с които разполагаме са качествени и съдържат точна информация преди да ги включим в невронната мрежа. „В България все още се чудим как да дадем достъп до информацията в НЗИС на лекарите, а говорим за изкуствен интелект, който да ни дава решения“, заяви той.

Според доц. Желязко Арабаджиев, член на Борда на Мисия за борба с рака към Европейската комисия, каза, че би трябвало да използваме иновациите, защото това ще ни освободи, за да бъдем творци. „Същевременно обаче е и нов източник на заплаха и плагиатство“, каза той.

„Изкуственият интелект е много добър асистент, но е само асистент. И този асистент е толкова добър, колкото са данните, на които стъпва. Решенията винаги ще ги взима лекарят. Употребата на изкуствения интелект на системно ниво ще става бавно и полека, но на индивидуално ниво ще се развива много бързо“, категоричен беше Деян Денев от ARPharM.

Според доц. Борисов най-големият риск е ако в резултат на употребата на изкуствен интелект бъде увреден пациент. „AI няма да носи отговорността за това, отговорността се носи от лекаря“, каза той. Д-р Мангалджиев уточни, че пациентът не трябва да дава информирано съгласие, а да взима информирано решение, но това означава да има достъп до цялата информация за очакваните резултати от решението си. „Няма как необразовани хора да работят с изкуствен интелект“, категоричен беше той.