Боен бой в симулатора; 5 0 за машината; Очи право напред!
Машина 5: 0 души. Това беше резултатът от състезанието AlphaDogfight, организирано от Агенцията за модерни проекти за отбранителни изследвания (DARPA), изследователската агенция за американската армия, тази седмица. Dogfight се отнася до близък въздушен бой между два бойни самолета и в този опит изкуствен интелект (AI) се състезава в симулатора срещу човешки пилот. AI спечели големи. Но какво означава това?
Франк Зауер, политолог от университета Бундесвер в Мюнхен, е загрижен за важността на изкуствения интелект за оръжейните системи - включително въпроса кои правила трябва да се прилагат за смъртоносни автономни оръжейни системи. Той е направо за очите! записа своите наблюдения върху този експеримент, завършил в четвъртък (вчера) с връх човек срещу машина:
Още през август 2019 г. DARPA избра осем екипа от университети и индустрия - от големи компании като Lockheed Martin до малки групи като Heron Systems - за участие в програмата Air Combat Evolution (ACE). Тази седмица, от 18 до 20 август, софтуерните решения, разработени от осемте екипа, първоначално се състезаваха помежду си в симулирана въздушна битка и срещу софтуер от лабораторията за приложна физика на Университета Джон Хопкинс, за да определят кой ще бъде на финала на човешки пилот ще бъде позволено да измерва.
Heron Systems излезе победител от предварителните битки и накрая се състезава срещу пилота на човешкия изтребител "Banger". Той седеше в симулатор с очила за виртуална реалност и накрая получи късата сламка с 0 до 5.
Обичайните маневри за въздушен бой са безполезни, заяви Бангър след 0 до 4 срещу машината. Ето защо той искаше да опита нещо различно в края. Последната обиколка всъщност отне значително по-дълго, но в крайна сметка софтуерът Heron имаше човешкия пилот Banger пред носа на симулирания самолет, достатъчно дълъг, за да спечели дуела.
Как се оценява всичко това? На първо място, трябва да се отбележи, че резултатът от състезанието в никакъв случай не е изненадващ. Още през 2016 г. софтуерът ALPHA, разработен от Psibernetix Inc., който по това време работеше на занаятчийски компютър Raspberry Pi за $ 35, победи човешки пилот при тестове за изследователската лаборатория на ВВС на САЩ. Ако Бангър беше спечелил един кръг от симулацията срещу Херон, това щеше да е сензация.
Защото ключовата дума е симулация. Човекът и машината се състезаваха един срещу друг в значително опростена среда, в която машината разполагаше с пълна информация. За Херон нямаше какво друго да направи, освен да оптимизира енергията, ъгъла, разстоянието и няколко други параметъра - лесно упражнение за обучената с усилване система за дълбоко обучение.
Системата не трябваше да се страхува от загуба на съзнание по време на завоите, полетени с 9G. Защото така или иначе няма. В това отношение обаче Banger успя да се възползва от симулираната среда. В действителност той едва ли щеше да се справи с маневрите, които летеше удобно от фотьойла си.
Следователно смисълът и целта на симулацията ACE не е да генерира резултати, които могат да бъдат пренесени в реалност. По-скоро в по-широк смисъл интересите на индустрията трябва да бъдат подхранвани, от една страна, и доверието на въоръжените сили на САЩ в изкуствения интелект, от друга страна.
Накратко: човешките пилоти трябва да свикнат с идеята да бъдат придружавани и подкрепяни от софтуерно контролирани безпилотни системи в бъдеще. В момента се разработва софтуерът за такава система за ескорт за изтребител F-35 - като част от програма, наречена "Skyborg" с пълна сериозност. В надпреварата за хардуера, наред с други, компанията Kratos с XQ-58A Valkyrie и Boeing със своя дрон Loyal Wingman. Подобна концепция се планира в Европа със системата за бъдещ боен въздух.
Следователно офанзивата на AI чар има не само технически, но преди всичко организационно-политически произход. Защото нито с САЩ Във ВВС, които все още са във флота, пилотите са особено ентусиазирани от идеята да предадат контрола на полета - това може да се види, например, от програмите на американския флот от последните години.
Демонстраторът на технология X-47B от Northrop Grumman успешно завърши излитания и кацания на самолетоносачи и зареждане по време на полет, но не беше, както очакваха много наблюдатели, по-нататък превърнат в поддържан от превозвача безпилотен боен летателен апарат, който се управляваше предимно без човешки контрол. Вместо това, Boeing сега предоставя на флота безпилотен танкер и разузнавателна платформа под формата на MQ-25 Stingray. „Истинското летене“ остава в човешки ръце - и причините за това, според ThinkTanks във Вашингтон и бивши служители на Пентагона, са повече културни, отколкото технически.
В дългосрочен план обаче AI ще намери своя път в пилотската кабина. Без хора с техните ограничения на натоварване, по-голяма производителност не може да бъде постигната само със съществуващите рамки. Напълно нови дизайни и тактики също стават възможни. Фактът, че хората, дори да са физически отсъстващи, в повечето случаи ще продължат да играят решаващата роля - в истинския смисъл на думата - също не е под въпрос от дълго време.
Тъй като липсата на информираност за софтуера е едновременно предимство и недостатък. От една страна, при 9G тя не може да загуби това, което няма. От друга страна, системите за дълбоко обучение като Heron and Co. няма да могат да постигнат когнитивно това, което мислещият човек може в обозримо бъдеще. Те са не само гладни за данни (алчни), но и изключително склонни към грешки, когато се справят с непознати ситуации (крехки). Хората, от друга страна, разбират контекста, могат да класифицират нови ситуации и да вземат решителни решения въпреки липсата на информация. Така че не е чудно, че в ACE много се говореше за пилотирано безпилотно обединение като за действителната цел. Следователно бъдещето ще изглежда така: Машината лети, човек мисли - и взема решения от разстояние.
И още една бележка за това от Missy Cummings, бивш американски пилот-изтребител. Изследовател на военноморските сили и AI: Уведомете ме, когато AI може трайно да прави разлика между бойци и некомбатанти.
Не е изненада тук - борбата с кучета се основава изключително на правила, който може да лети най-дълго на ръба на маневриращата обвивка, печели. Хората нямаха шанс. Когато AI в равнината може последователно да прави разлика между бойци и некомбатанти, обадете ми се https://t.co/d69yUjuFaL https://t.co/rp81Q6NZ5g
(Франк също е един от моите съ-водещи в подкаста, за да бъде на сигурно място, благодаря му много!)
(Снимка: Екранна снимка от видеоклипа в 4:50:30)
23 отговора на "Въздушен бой в симулатора - 5: 0 за машината"
Искате ли AI "последователно" или с приемлив процент грешки? https://en.wikipedia.org/wiki/190th_Fighter_Squadron,_Blues_and_Royals_friendly_fire_incident times като пример за човешка грешка.
Последователно вече означава с приемлив процент грешки. Грешките също могат да бъдат последователни. Той не казва изрично „безупречно“.
„„ Истинската авиация “остава в човешки ръце - и причините за това, според мозъчните тръстове във Вашингтон и бивши служители на Пентагона, са повече културни, отколкото технически“.
Поради все още високия процент грешки на AI, това е нещо добро. Но имайте предвид, че това е моментна снимка.
По отношение на въпроса от културен или технически характер, бих искал само да коментирам, че кормчиите на безпилотните самолети също се появяват във ВВС с претенцията да бъдат обучени като пилоти, готови за бой. И разбира се услугата трябва да се извършва в полетен костюм (няма друг начин за управление на безпилотен самолет, SARC OFF). Запитвам се колко аварийни самолета ще ни трябват в бъдеще, които никога не трябва да се използват, но които са необходими за обучението на бойни контролери за борба с готовност.
Дроновете не само могат да постигнат по-висока производителност, но и носят със себе си значително по-малко баласт, напр. Кокпит, седалка, седалка за изхвърляне, кислород.
Освен това надеждността не е особено висока. Ако дронът падне, никой не е засегнат.
Т.е. Дроновете могат да се произвеждат много по-евтино, по-малки и по-леки.
Тогава един ден две военновъздушни сили се изправят една срещу друга:
Единият се състои от 1000 малки, леки, евтини безпилотни летателни апарата, които печелят 90% от битките във въздушна битка, но получават едно синьо, едно зелено и две сиви убийства при десет червени убийства. Другата военновъздушна авиация се състои от 100 големи, тежки, скъпи класически самолета, които печелят само 10% от въздушните битки, но при 1000 мисии те имат толкова неуспехи, колкото дроновете на 10.
На коя страна искам да бъда, на "Schieß-ins-Kraut" или на "Trifftnix"?
Нека поговорим за програмирани алгоритми или истински AI?
Става интересно след 1 срещу 1, напр. с 4 срещу 4.
Когато опитни пилоти анализират компютърните маневри и прилагат свои собствени заключения в нови тактики, как компютърът или поне ИИ реагират на него.
„Запитвам се колко аварийни самолета ще ни трябват в бъдеще, които никога не трябва да се използват, но са необходими за бойна подготовка за контролери на безпилотни летателни апарати“.
@ SB63: Кой авариен самолет трябва да се нуждае от екипажите на RPAS? Съответните концепции и разпоредби може да не определят на 100% бъдещия път на обучение, но пътят към LCR вече е описан доста точно. Също така ясно се говори за отделен TCTP и необходимите стъпки за обучение. Но никъде не се казва, че нито бъдещите WSOps, нито AVOs претендират или конфискуват някакъв вид разполагане.
Missy Cummings посочва същността на въпроса с "изключително основано на правила". Характерът на състезанието ще бъде описан много по-точно с „шахматисти срещу шахматни компютри“. Говоренето за ИИ тук създава погрешно впечатление.
@Magmakammer
Говорим за разработване на софтуер.
Това означава, че Бундестагът ще обсъжда още 10 години дали е морално оправдано въвеждането на тези системи (вж. Френско-германския проект FCAS), докато други държави отдавна ги въвеждат.
Отново - „бойци и некомбатанти“ ... Ами ако това се случи в ожесточена битка със силни врагове? Ако има въздушен удар по градовете? („Хибридна война“ и „некомбатанти“ ...) „Никога не може да бъде, защото не може да бъде ...“ Е, Израел изглежда се чувства различно и изследва изкуствения интелект. На Ваше разположение ...
Съществува и риск сензорите и ефекторите да бъдат пренаситени. И: ако е необходимо, безпилотният летателен апарат просто ще тарани врага, когато се приближи.
Тогава защо, по дяволите, AI винаги е толкова зле при симулациите на полети?;)
За да имате шанс като човешки играч!;-)
Ако AI просто се програмира според "чисти" параметри в симулациите, попаденията от първи изстрел ще паднат при максимален обсег на оръжие. Следователно, във всеки AI трябва да се вгради съответно „нечисто“ поведение, така че забавлението от играта да се запази.
Както обаче беше посочено по-горе, това работи само в стерилна среда на симулатор със 100% известни и изчислени стойности и параметри.
„В действителност той едва ли би успял да се справи с маневрите, които летеше удобно от фотьойла си.“
Бих искал да противореча на това. Кучешките битки приличаха на тези, които редовно се обучават от пилоти.
Това ли е нова версия на TacAir SOAR или наистина нещо ново?
Е, насаме израелските военновъздушни сили и флот имат проблеми не с Иран, а с ... Русия. За съжаление, не се изненадвайте. Трябва да изпреварим този, с приятелски Скайнет (на иврит) и „Печат на Соломон“, за всеки случай ... (забавна усмивка) Искрено ...
Трябва да призная, че дори след 5 години професионална дейност в областта на машинното обучение (ML), не мога да свикна с термина „изкуствен интелект (AI)“. В индустрията терминът рядко се използва или дори се разглежда като индикатор, че съответното лице трябва да е мениджър, продавач или журналист;-)
Особено с посланията, които карат читателите да се чувстват: „Скоро ще остареем“, винаги помага да се има предвид какво всъщност е изкуственият интелект (AI): а именно нищо повече от математическа формула с фиксиран набор от параметри и Тегло. Следователно AI не може да реагира на напълно нови параметри, тъй като формулата просто не съдържа тези параметри. Така AI не знае нищо за света извън пространството на параметрите - с което е бил захранван по време на обучение.
По същия начин, AI има тенденция да реагира напълно непредсказуемо, ако стойностите се подават във вече известни параметри, които се различават значително от стойностите, наблюдавани по време на обучение (или чрез исторически данни, или чрез стойностите в симулираната среда за обучение) (TW вече има терминът "чуплив", приложен).
За разлика от машините, животните и хората са се научили чрез еволюцията да реагират на такива неизвестни ситуации с евристика. Евакуационният отговор е напр. такава евристика. Тези евристики не винаги са ефективни, но са стабилни. Това показва съществена разлика между действително интелигентния живот и стохастичните машини.
Лично аз съм на мнение, че липсата на способност да се справяме с напълно нови или непознати ситуации по достатъчно предсказуем и стабилен начин (без преквалификация) представлява твърда граница за машинно обучение.
От друга страна, настоящите подходи към машинното обучение са неочаквано силни, напр. когато става въпрос за откриване на ракови клетки с нисък фалшиво положителен или фалшиво отрицателен процент. Ето защо съм напълно несъгласен с туита на Missy Cummings тук: Насочването е една от силните страни и една от слабостите на хората. Последните се уморяват, страхуват се и демонстрират лошо взимане на обективни решения в стресови ситуации. От друга страна, един ML модел може (до голяма степен) да освободи от субективни влияния, въз основа на всички налични данни, да изчисли стохастична вероятност (увереност), че целта е боец. Тук разработчиците могат да зададат висок праг на доверие, който в случай на съмнение би довел до машината да се жертва, преди да се бие с минувачи. Пилотираните системи, от друга страна, трябва да се страхуват от собственото си унищожение и е по-вероятно да натиснат спусъка.
В момента се постига голям напредък в работата с непълна информация и дългосрочно планиране. Поразителен пример тук е AlphaStar: ML модел, който е разработен от Deepmind и е в състояние да играе компютърната игра StarCraft 2 в реално време и да се конкурира с най-добрите играчи в света. Факт, който дълго време се смяташе за невъзможен дори от експерти. Защото една игра може да продължи от няколко минути до повече от час. Всяко по-ранно действие или решение влияе върху възможностите за действие в по-късен момент от времето. Освен това, така наречената "мъгла на войната" крие действията на противника. Така че моделът трябва да избере стратегия, без да знае коя стратегия ще избере противникът. Ситуацията се развива напълно динамично и прави фундаментална промяна на стратегията, необходима в неблагоприятни ситуации, докато никоя стратегия или тактика не е явно по-добра (обръщане на монети).
[Досега толерирах коментари на английски език в блог на немски език ... това, което не съм готов да търпя: Използване на кавички без даване на източник. T.W.]
Олег, намирам вашите прозрения за интересни и добър принос. И, както T.W. пише, той толерира публикации на английски, но не желае да има цитати без източник. Много често допълнение дори за нас, немскоговорящите тук ...;-)
Както често се случва, и тук важи същото - сместа е най-добра. Това, което говори срещу факта, че хората като вземащи решения в самолета могат да бъдат подкрепени от компютри или алгоритми. Пътят там така или иначе отдавна е поел. Отдавна е възможно една операция да се извършва почти автономно с хора изключително като надзорник, който може да промени стратегията, ако е необходимо. Автоматичното изпълнение на въздушни бойни маневри е само още една стъпка.
Това, което не бива да се забравя при напълно автономния безпилотен самолет, е аспектът на допустимостта.
Сега съм пенсионер и имам проблем с интернет. Но все още има време (усмивка)
Благодаря за вашата подкрепа, пешеходци!
@ Oleg Olkha 19:23
Пенсионери и геймъри? Във всеки случай това не ви прави непривлекателни! (Усмивка)
Кажете ми, когато (...) лицето (...) може трайно да прави разлика между бойци и некомбатанти. Или искам . . .