Сети в автономной системе обмениваются информацией о маршрутах друг с другом, используя один или несколько протоколов внутреннего шлюза. Напротив, связь между автономными системами зависит от единого протокола внешнего шлюза — протокола пограничного шлюза, который позволяет обмениваться информацией о маршрутизации и эффективно маршрутизировать пакеты данных между автономными системами. Поскольку BGP играет ключевую роль, его иногда называют протоколом маршрутизации, обеспечивающим работу Интернета.

BGP — это протокол маршрутизации между AS, который упрощает обмен информацией о доступности сети между системами BGP. На основе этой информации BGP может направлять пакеты по наиболее эффективным маршрутам к своим целевым автономным системам.

Для выполнения этих операций протокол использует протокол управления передачей (TCP) в качестве транспортного протокола. Это не только делает BGP совместимым с остальной частью Интернета, но также устраняет необходимость в протоколе выполнять такие операции, как явное упорядочение или повторная передача.Когда между двумя устройствами формируется TCP-соединение, они могут обмениваться сообщениями для подтверждения параметров соединения.

AS использует BGP, чтобы объявить, к каким автономным системам она может подключиться и за какие IP-адреса отвечает AS. Маршрутизаторы, участвующие в обмене данными BGP, постоянно обновляют друг друга самой последней информацией о маршрутизации. Каждый маршрутизатор BGP поддерживает таблицу маршрутизации для хранения этой информации.

BGP может использовать эту информацию — вместе с номерами ASN — для построения топологии пересылки, которая направляет пакеты по лучшим маршрутам, избегая сетевых петель.Протокол придерживается парадигмы пересылки на основе получателя, в которой маршрутизатор пересылает пакет только на основе адреса получателя в IP-заголовке. В результате политики маршрутизации должны соответствовать этой парадигме.

Что такое автономная система. Интернет — это сложная сеть… | by Datapath.io

Интернет — это сложная сеть сетей. Каждая сеть — это автономная система. Все подключено по протоколу пограничного шлюза.

Чтобы понять, как работает магистраль Интернета, нам нужно понять автономные сети.

Здесь мы обсудим, что такое автономная система и как это связано с Интернетом.

Автономная система — это набор сетевых префиксов в Интернете. Набор сетевых префиксов сгруппирован в автономную систему (AS). AS — это отдельная сеть в Интернете. Каждая сеть или AS имеет номер автономной системы (ASN).

Чтобы понять немного больше, мы можем объяснить, какое место AS занимает в структуре Интернета. Интернет состоит из интернет-протоколов (IP), сетевых префиксов и автономных систем.IP-адреса группируются в сетевые префиксы, а сетевые префиксы группируются в автономные системы. В этом случае автономные системы принадлежат поставщикам интернет-услуг (ISP).

На заре Интернета AS могла принадлежать только одной организации. Например, одному интернет-провайдеру будет принадлежать одна автономная система. Это уже не так. Интернет-провайдер может владеть несколькими AS, и они будут использовать протокол пограничного шлюза (BGP) для связи между ними.

Автономные системы обмениваются данными друг с другом через BGP.Чтобы одна AS могла взаимодействовать с другой, они идентифицируются с помощью номеров автономных систем.

Номера автономных систем (ASN) — это уникальные идентификаторы, которые присваиваются AS. Идентификатор позволяет AS обмениваться данными как внешне, так и внутренне. AS может иметь частный ASN и общедоступный ASN.

Частный ASN: Частный ASN — это уникальный идентификатор для AS, который используется для связи AS с одним объектом.

Общедоступный ASN: общедоступный ASN — это уникальный идентификатор, который объявляется в общедоступном Интернете.Это также используется для связи между ASN.

Нет существенной разницы между публичными и частными ASN. Поскольку ASN определяет следующий переход в BGP, публичный или частный, сетевой маршрут необходимо настроить в сетевом маршрутизаторе.

Автономные системы являются основой BGP для связи и маршрутизации трафика через Интернет.

Протокол пограничного шлюза — это то, как AS взаимодействует с другой AS. Кроме того, BGP предоставляет информацию и алгоритм для выбора данных пути через Интернет.

BGP использует информацию из таблиц маршрутизации BGP для определения следующего перехода AS, который определяет маршрут к месту назначения.

По умолчанию BGP отправляет трафик на кратчайшее логическое расстояние. Это означает наименьшее количество переходов AS. Это процесс выбора наилучшего пути BGP или выбора пути AS.

Выбор наилучшего пути BGP определяет, как весь интернет-трафик направляется через Интернет.

Мы подробно обсуждаем, как работает выбор наилучшего пути BGP, в нашей публикации о выборе наилучшего пути BGP.

В итоге:

Выбор наилучшего пути BGP обеспечивает веса для различных сетевых путей в Интернете. Предпочтение отдается соглашениям о местонахождении и пирингу. Также учитывается длина пути.

С помощью этой системы AS подключается к другой AS и направляет ваши данные через Интернет.

Автономные системы имеют несколько механизмов взаимодействия, которые упрощают понимание.

Автономные системы имеют протокол внутреннего шлюза и протокол пограничного шлюза.

Протокол внутреннего шлюза (IGP) обменивается данными внутри AS. Протокол пограничного шлюза обменивается данными между AS. IGP направляет данные внутри AS, а BGP направляет данные от одной AS к другой.

AS также будет обмениваться данными в определенных местах. Точка обмена интернет-трафиком (IXP) — это место, где AS обменивается данными.

IXP — это место, где интернет-провайдеры, владеющие AS, обмениваются данными с другими интернет-провайдерами посредством соглашений о пиринге. Затем BGP определит кратчайший путь AS и направит данные через Интернет.

Автономные системы лежат в основе Интернета. AS — это сеть в Интернете, а BGP — это то, как эти сети взаимодействуют.

Чтобы узнать больше о сетевых терминах, связанных с DevOps, вы можете загрузить электронную книгу DevOps Networking .

Автономная система — обзор

3.16.7 Рекомендации по выбору технологий

Автономные системы разрабатываются в отдаленных районах, где нет электросети.Из-за рассредоточенности населения, характерного для районов Южного Средиземноморья и Персидского залива, для удовлетворения потребностей в питьевой воде в отдаленных деревнях используются относительно небольшие системы. Основными желательными характеристиками таких систем являются низкая стоимость, низкие требования к техническому обслуживанию, простота эксплуатации, а также высокая надежность [9].

Решение об использовании автономной солнечной опреснительной системы, а также выбор наиболее подходящей комбинации зависят от нескольких параметров и в основном зависят от конкретной площадки.

Для солнечных опреснительных систем наиболее важным параметром, касающимся системы электроснабжения, является достаточный солнечный потенциал в выбранном регионе. Другими факторами, которые следует принимать во внимание и которые влияют на окончательную удельную стоимость воды и срок службы станции, являются наличие земли, стоимость земли, а также наличие технического персонала и местного рынка.

Что касается опреснения, необходимо изучить ряд основных параметров. Первый — это оценка общих водных ресурсов.Это должно быть сделано как с точки зрения качества, так и количества (для ресурсов с солоноватой водой). Во внутренних районах солоноватая вода может быть единственным выходом. В этих случаях следует проявлять осторожность при утилизации рассола и отбраковывать их, не загрязняя местные водные ресурсы.

На прибрежных участках обычно имеется морская вода. В этом случае при сбросе солевого раствора в море соблюдаются особые правила.

Процессы дистилляции используются в основном для опреснения морской воды, в то время как мембранные процессы используются для широкого диапазона солености от солоноватой воды до морской воды.

Применение процесса ED является предпочтительным для опреснения солоноватой воды.

Определение качества производимой воды зависит от цели установки, например, от того, используется ли она для питьевых, сельскохозяйственных или промышленных нужд. Процессы дистилляции используются для производства дистиллятной воды, а мембранные процессы — для производства питьевой воды. Однако при дополнительной обработке дистиллятной воды можно также производить питьевую воду; Используя установку обратного осмоса двойного назначения, можно производить воду с очень низкой проводимостью.

С точки зрения энергии, основным источником энергии для опреснительной установки является большой ввод тепла. Как и все термические процессы, дистилляция требует больших затрат энергии (из-за энергии, необходимой для изменения фазы). Кроме того, для перекачки требуется дополнительное электричество (электричество можно производить с помощью фотоэлектрических станций).

С другой стороны, солнечные тепловые системы настолько сильно зависят от излучения (день / ночь), что всегда требуется некоторое аккумулирование тепла. Таким образом, аккумулятор может стать основной подсистемой установки, и принятые стратегии управления приобретают особое значение.

Для испарителей MSF PR увеличивается с повышением температуры, поэтому предпочтительны высокие температуры (до 120 ° C). Это, в свою очередь, увеличивает риск образования накипи и коррозии. Испарители MED в настоящее время работают при более низких температурах (около 70 ° C), и эти опасности уменьшаются.

Наконец, управление такими испарителями должно быть очень точным, особенно уравновешивание вспышки в MSF. Система нестабильна при малых размерах. Это приводит к использованию испарителей среднего и большого размера (производительность в тысячи кубометров в день), которые не совсем соответствуют размерам и мощности, обычно применяемым с возобновляемыми источниками энергии, если только не может быть построено огромное солнечное поле, что, в свою очередь, подразумевает большие грунтовые поверхности.Таким образом, сочетание солнечно-термической дистилляции лучше всего подходит для средних и высоких производственных мощностей.

С другой стороны, RO доступен в большом диапазоне размеров и солености воды. Использование устройств рекуперации энергии может значительно снизить потребность в энергии. Стабильность источника питания важна для срока службы мембраны.

ED доступен также в небольших размерах; однако этот процесс в основном используется для опреснения солоноватой воды из-за зависимости потребления энергии от концентрации питательной воды.

Простота эксплуатации и технического обслуживания, а также автоматизация системы являются серьезной проблемой.

Нелегко найти коммерческую зрелость в солнечных опреснительных установках; однако существует достаточное количество растений, которые могут быть подтверждены путем их исследования.

Как работает Интернет? — Автономные системы, ASN и принцип работы BGP — Блог

Поскольку Интернет — это глобальная система взаимосвязанных компьютерных сетей, не принадлежащих какой-либо отдельной организации, то то, как эти компьютерные сети соединяются друг с другом, играет роль в определении качества вашего Интернета. и, в конечном итоге, ваш опыт работы в сети.

В частности, в этом посте объясняется, что такое автономная система (AS), что такое номер автономной системы (ASN) и способы, которыми AS работают вместе для обмена и маршрутизации данных с вашего устройства на сервер, расположенный в любой точке мира, и снова обратно. Этот пост также включает обсуждение транзитных и одноранговых отношений, прежде чем анализировать, как протокол пограничного шлюза (BGP) работает в качестве протокола маршрутизации для Интернета.

Так что же такое автономная система?

Автономные системы

Согласно определению Википедии:

Автономная система (AS) представляет собой набор подключенных префиксов маршрутизации Интернет-протокола (IP) под управлением одного или нескольких сетевых операторов от имени одного административного объекта или домена, который представляет общую, четко определенную политику маршрутизации в Интернет. .

Проще говоря, AS — это интернет-провайдер или очень большая организация с независимыми подключениями к другим сетям.

RISE, как поставщик бизнес-услуг Интернета на Филиппинах, представляет собой всего лишь одну AS , , а его сеть состоит из физических оптоволоконных кабелей и маршрутизаторов, соединяющих его с клиентами и другими автономными системами по всему миру.

Что такое ASN?

По всему миру работают десятки тысяч автономных систем.Каждая AS должна иметь официально зарегистрированный номер автономной системы (ASN), чтобы идентифицировать себя и связываться с другими AS.

ASN для RISE — AS63927, его можно найти по адресу bgp.he.net , где каждый интернет-провайдер в мире имеет информацию о нем в своей сети. До 2007 года все ASN были 2-байтовыми (16-битные числа), что позволяло использовать максимум 65535 сетей, а теперь, с введением 4-байтовых (32-битных чисел), новая система обеспечивает в общей сложности 4294967296 ASN. глобально.

Как автономные системы работают вместе?

Поскольку ни одна автономная система не имеет прямого подключения к каждому устройству в Интернете, автономная система должна работать с другими автономными системами для доставки клиентского трафика в предполагаемое место назначения и обратно. RISE работает с другими автономными системами в экосистеме доставки интернет-контента несколькими способами. Это три основных типа отношений ASN в Интернете:

• Продавая транзит другим сетевым провайдерам, чтобы они могли отправлять трафик через сети RISE , и через все многочисленные межсоединения RISE с другими провайдерами (что делает их «клиентами» RISE.) Это похоже на стандартный интернет-сервис — он обеспечивает доступ ко всему «Интернету»;

• Путем пиринга с другими поставщиками сети , позволяя RISE и другой сети получать доступ к клиентским сетям и услугам друг друга для обмена трафиком; и

• путем покупки услуг доступа или транзита из других сетей для маршрутизации клиентского трафика RISE через Интернет.

Решение сетевых инженеров, эксплуатирующих AS, передавать пакеты данных через пиринговые или транзитные каналы, имеет как коммерческий, так и технический характер.По этой причине важно понимать разницу между пирингом и транзитом, а также то, как ваш провайдер фактически маршрутизирует трафик, поскольку эти факторы могут повлиять на качество вашего Интернета как конечного пользователя.

В чем разница между пирингом и транзитом?

Пиринг

Пиринг — это взаимовыгодные отношения, при которых две AS соглашаются напрямую обмениваться интернет-трафиком между своими клиентами , , и обычно ни одна из сторон не платит другой стороне за право делать это.Пиринг может помочь улучшить работу конечного пользователя в Интернете благодаря прямому подключению к сети другого партнера, что позволяет избежать затрат на расчет трафика в процессе.

Вот почему интернет-провайдеры все больше и больше вовлекаются в пиринговые отношения. Например, если RISE и «Provider A» являются одноранговыми, трафик между клиентами RISE и «Provider A» будет проходить через специальное соединение с высокой пропускной способностью в центре обработки данных. Это соединение ограничено их нисходящими клиентами, что означает, что ни одна из сторон не может видеть восходящие / транзитные маршруты другой через пиринг.

Транзит

IP Transit позволяет трафику из одной сети использовать сеть другого провайдера, которая обычно используется для подключения меньшего ISP к остальной части Интернета. Транзит — это платная услуга, поэтому, если вы интернет-провайдер, покупающий транзит у другого провайдера, вы получаете доступ к маршрутам к остальной части Интернета, включая нисходящих партнеров этого провайдера, одноранговых и вышестоящих провайдеров.

Одним из основных преимуществ транзита является то, что это простая услуга.После того, как интернет-провайдер приобретает транзит, он будет нести ответственность за все его потребности в трафике. Transit также может включать соглашения об уровне обслуживания (SLA), которые делают использование Интернета более предсказуемым. Для многих интернет-провайдеров покупка транзита у другого провайдера рассматривается как необходимость, поскольку пиринг не всегда может удовлетворить их потребности в доставке трафика.

Учитывая, что автономные системы управляются компаниями, структура Интернета постоянно меняется из-за связанных с рынком действий, таких как слияния, поглощения и банкротство этих компаний.Поскольку появляются новые системы и существующие системы становятся недоступными, каждую AS необходимо поддерживать в актуальном состоянии, получая самую свежую информацию о новых маршрутах, а также о любых устаревших маршрутах других сетей.

Это осуществляется через пиринговые сеансы, в которых каждая AS подключается к соседним AS с помощью [TCP / IP-соединения] с целью обмена информацией о маршрутизации. Используя эту информацию, каждая AS может правильно маршрутизировать исходящие данные, поступающие из ее собственной сети.

Теперь, когда мы знаем, кто несет ответственность за перенос ваших данных с вашего устройства в пункт назначения и обратно, мы можем перейти к рассмотрению того, как данные маршрутизируются через Интернет.

Border Gateway Protocol (BGP): как работает BGP?

Большая часть контента, доступ к которому осуществляется на Филиппинах, размещается за пределами страны, при этом исходное местоположение данных часто находится на другом конце света. Данные должны перемещаться с вашего устройства на сервер, а затем возвращаться на ваше устройство с запрошенной информацией.Независимо от места назначения, пакеты данных используют один и тот же механизм или протокол для выбора наилучшего пути к вашему устройству. Это то, что называется протоколом пограничного шлюза (BGP), и он определяет, как пакеты данных выбирают маршрут для перемещения через Интернет. Если вы находитесь в Маниле и загружаете веб-сайт с исходными серверами в Нью-Йорке, BGP является основным протоколом, определяющим путь ваших пакетов.

Для дальнейшего объяснения этой концепции можно провести аналогию с тем, как работает приложение для навигации по вождению Waze.Waze помогает пользователям определить лучший и наиболее эффективный маршрут для передвижения между Макати и BGC , , например, путем предоставления анализа кратчайшего расстояния и условий движения.

Подобно Waze, BGP отвечает за просмотр всех доступных путей, по которым могут проходить ваши пакеты данных, а затем определяет кратчайший маршрут. Однако, в отличие от Waze, BGP не учитывает перегрузку или объем трафика, который в настоящее время отправляется по определенному маршруту.

BGP имеет сложный процесс выбора пути, но, по сути, есть два основных показателя, которые влияют на лучший путь: коммерческие факторы (через атрибут, называемый «локальное предпочтение»), и количество AS между вашей сетью и удаленной сетью (называемое «Длина пути AS»). При маршрутизации пакетов данных коммерческие соображения имеют приоритет в соответствии с BGP.

Каковы ограничения BGP?

Из сравнения Waze видно, что BGP не принимает во внимание несколько важных проблем производительности, с которыми сегодня сталкивается ваше интернет-соединение:

• BGP знает, через сколько сетей должен пройти ваш трафик, чтобы достичь пункта назначения, но не знает о задержке путей в этих сетях.В результате одним из других ключевых ограничений BGP является создание длинных путей для прохождения пакетов, основанное на том, что протокол просто определяет его как имеющий наименьшее количество AS для навигации. Эти длинные пути часто могут вызывать большие задержки для пользователей Интернета. Даже когда существует более эффективный путь, BGP, вероятно, направит трафик через путь с большой задержкой приема-передачи.

• BGP не обладает способностью обнаруживать потерю пакетов, что приводит к тем же типам проблем, что и большие задержки.Это становится довольно серьезной проблемой для предприятий, использующих VoIP, корпоративную видеоконференцсвязь и приложения для совместной работы, где потеря пакетов существенно влияет на их рабочий процесс.

• BGP также не может обнаруживать и смягчать пики трафика, которые превышают установленные скорости передачи данных и вызывают перегрузку.

• BGP также уязвим для ряда различных злонамеренных атак, и в прошлом хакеры перехватывали часть интернет-трафика.

В одном конкретном примере с использованием BGP в конце 2018 года Google потерял контроль над несколькими миллионами своих IP-адресов более чем на час, в результате чего поиск и другие службы были недоступны для многих пользователей.Это произошло в результате ошибочного маршрута, который неправильно направил трафик на China Telecom.

Эти ограничения BGP демонстрируют уязвимость Интернета и возможность для интернет-провайдеров смягчить ограничения BGP. Поскольку BGP не всегда предоставляет вашим данным лучший маршрут, многие высококачественные интернет-провайдеры будут иметь дополнительные протоколы маршрутизации, которые помогут найти наиболее эффективный маршрут. Это может гарантировать, что вы получите высококачественное интернет-соединение с низкой задержкой.

В части 1 нашей серии из 7 частей обсуждаются автономные системы, которые передают ваши данные через Интернет, и то, как они маршрутизируются с помощью BGP. Следующая часть будет посвящена тому, как ваши данные разбиваются на пакеты данных, а затем снова собираются вместе в правильном порядке благодаря Интернет-протоколу и протоколу управления передачей.

РЕКОМЕНДУЕМЫЕ СТАТЬИ

номеров автономных систем — Американский реестр интернет-номеров

Что такое номера автономных систем?

Автономная система (AS) — это группа из одного или нескольких IP-префиксов (списков IP-адресов, доступных в сети), управляемая одним или несколькими операторами сети, которые поддерживают единую четко определенную политику маршрутизации.Сетевым операторам требуются номера автономных систем (ASN) для управления маршрутизацией в своих сетях и для обмена маршрутной информацией с другими поставщиками интернет-услуг (ISP).

Существует два разных формата для представления ASN: 2-байтовый и 4-байтовый .

2-байтовый ASN — это 16-битное число. Этот формат обеспечивает 65 536 ASN (от 0 до 65 535). Из этих ASN Управление по присвоению номеров в Интернете (IANA) зарезервировало 1023 из них (от 64512 до 65534) для частного использования.

A 4-байтовый ASN — 32-битное число. Этот формат обеспечивает 2 ³² или 4 294 967 296 номеров ASN (от 0 до 4294967295). IANA зарезервировала блок из 94 967 295 ASN (от 4200000000 до 4294967294) для частного использования.

До тех пор, пока Инженерная группа Интернета (IETF) не предложила в 2007 году постепенный переход на 4-байтовые ASN, все ASN были 2-байтовыми. Больше не существует различия между 2-байтовым и 4-байтовым ASN, и все ASN должны считаться 4-байтовыми.

Для получения дополнительной информации о спецификациях для ASN см. Следующие запросы на комментарии (RFC):

• RFC 1930 — Руководство по созданию, выбору и регистрации автономной системы (AS)
• RFC 5396 — Текстовое представление номеров автономных систем (AS)
• RFC 6793 — Поддержка BGP для четырехоктетного пространства номеров AS
• RFC 6996 — Резервирование автономной системы (AS) для частного использования

Чтобы начать свой запрос ASN, посетите страницу Запросы IP или ASN.

Какие бывают типы автономных систем?

Есть три различных типа автономных систем:

1. Многодомная AS подключается к двум или более AS, поэтому она может поддерживать свое Интернет-соединение в случае сбоя одного соединения AS.
2. Заглушка AS подключается только к одной другой AS, хотя у нее могут быть собственные частные подключения, невидимые для остальной части Интернета.
3. Транзитная AS действует как связующее звено между двумя или более другими AS, позволяя данным проходить через нее, даже данным из несвязанных сетей.Интернет-провайдеры, например, предлагают своим клиентам и их сетям доступ к другим сетям и Интернету через транзитную AS.

Лекция

• Иерархическая маршрутизация
• RIP
• OSPF
• BGP

• Интернет представляет собой набор наборов сетей, которые вводятся независимо
• Каждая такая совокупность сетей называется автономной системой (AS).
• каждая автономная система использует собственный протокол маршрутизации, либо Вектор расстояния (DV) или состояние канала (LS)
• некоторые маршрутизаторы в каждой автономной системе подключены к другим маршрутизаторы в других автономных системах
• такие маршрутизаторы называются маршрутизаторами шлюза
• протокол маршрутизации между AS — BGP-4
• BGP-4 похож на DV, но предоставляет информацию о доступности а не маршрутизация с наименьшими затратами

• маршрутизатор запускает протокол маршрутизации внутри AS для получения маршрутов к все сети и маршрутизаторы в AS
• маршрутизатор также получает информацию о доступности для всех других сетей от маршрутизаторов шлюза, которые получают его по протоколу маршрутизации между AS
• внутреннему маршрутизатору нужно только знать, как подключиться к одному из шлюзов который может достичь конечного пункта назначения
• внутренний маршрутизатор обычно выбирает ближайший маршрутизатор шлюза, который связан с пунктом назначения — это известно как маршрутизация горячего картофеля
• расстояния до шлюзов-маршрутизаторов известны из внутренней AS протокол маршрутизации

• Протокол маршрутной информации, RIP:
  • на основе вектора расстояния
  • очень низкие накладные расходы
  • Очень ограниченная работа, необходимая для его настройки и обслуживания
• Сначала откройте кратчайший путь:
  • на основе состояния канала
  • Стоимость связи настраивается администратором
  • AS можно разделить на Области
  • в таком случае, магистральная область должна быть подключена ко всем остальным областям

• вектор расстояния
• расстояние в переходах, каждая ссылка — один переход
• расстояние от исходной сети до целевой сети
• RIPv2 поддерживает сетевые маски
• RIPng поддерживает IPv6

• аналогично игре с векторной маршрутизацией
• пункт назначения (+ маска сети) и расстояние (в шагах) от таблицы маршрутизации помещается в сообщение ответа RIP, также известное как реклама RIP Отправлено
• ответов:
  1. после изменения таблицы маршрутизации, и
  2. периодически каждые 30 секунд и
  3. в ответ на запрос сообщений от других маршрутизаторов
• как правило, ответы RIP транслируются на локальная сеть, тогда как ответы RIPv2 являются многоадресными
• RIP работает через UDP и прослушивает UDP-порт 520
• RIP часто реализуется как процесс пользовательского пространства, который возможность обновления таблиц маршрутизации (пересылки)
• в системах UNIX этот процесс называется маршрутизируемым.

• «бесконечность» в RIP — это 16 переходов
• RIP использует разделенный горизонт с отравленным реверсом, поэтому
• когда я отправляю свою таблицу маршрутизации в сеть X,
• любые маршруты, для которых следующий переход находится на X, имеют стоимость 16

• OSPF основан на состоянии канала, но более сложен
• каждая AS может быть разделена на несколько областей
• каждая область использует маршрутизацию состояния канала, при этом все маршрутизаторы равны
• по крайней мере один маршрутизатор в каждой области должен быть подключен к области 0, позвоночник
• такие маршрутизаторы границы области идентифицируют себя как таковые
• маршрутов за пределами области должны проходить через одну из областей пограничные маршрутизаторы
• Таким образом, весь трафик за пределами зоны передается по магистрали.
• граничные маршрутизаторы суммируют сетевую информацию за пределами области к маршрутизаторам внутри области
• маршрутизатор, подключающийся к маршрутизаторам за пределами этой AS, является границей router и идентифицирует себя как таковой

• алгоритм состояния канала OSPF использует кратчайший путь Дейкстры алгоритм построения таблиц маршрутизации в каждом маршрутизаторе
• Стоимость ссылки определяется администратором, обычно в пользу быстрые ссылки
• Может использоваться несколько маршрутов с одинаковой стоимостью до одного пункта назначения
• MOSPF обеспечивает поддержку многоадресной передачи в сетях OSPF
• OSPF работает напрямую через IP, используя протокол номер 89 (/ etc / protocol)

• Border Gateway Protocol версии 4, BGP-4, является стандартом для маршрутизация между AS
• Один или несколько маршрутизаторов в каждой AS используют BGP для связи с другими такие маршрутизаторы в других автономных системах
• эти маршрутизаторы являются динамиками BGP или узлами BGP
• BGP слабо основан на векторе расстояния
• , однако, вместо того, чтобы говорить друг другу: «Я могу подключиться к сети X в D хмель »,
• Спикеры BGP в различных автономных системах входят в список автономных Системы, которые они пересекут, чтобы достичь заданного пункта назначения
• иногда называется вектором пути

• BGP предоставляет механизма :
  • путь (список автономных систем) для каждого маршрута
  • возможность не объявлять некоторые маршруты некоторым соседям
• BGP работает лучше всего, если администратор определяет политику :
  • каких автономных систем следует избегать
  • где рекламировать какие маршруты
• однако определение политики требует определенного внимания со стороны людей и несет в себе риск ошибки
• BGP очень хорошо масштабируется
• BGP может использовать шифрование и аутентификацию

• BGP устанавливает TCP-соединения между маршрутизаторами BGP
• данные маршрутизации передаются через эти TCP-соединения
• BGP также должен работать на внутренних маршрутизаторах автономной системы, распространять информацию о доступности
• маршрут устанавливается по первому критерию, что показывает предпочтение:
  1. локальное предпочтение, если определено
  2. путь, пересекающий наименьшее количество автономных систем (кратчайший путь)
  3. если существует более одного кратчайшего пути, используйте тот, для которого ближайший к вам внешний маршрутизатор BGP
  4. , если несколько маршрутов по-прежнему эквивалентны, используйте тот, у которого наименьший ID роутера

• RIP и OSPF — это протоколы внутреннего шлюза (IGP), используемые для маршрут в автономной системе
• BGP — это основной протокол внешнего шлюза (EGP), используемый для маршрут между автономными системами
• BGP и RIP основаны на векторной маршрутизации расстояния с вариантом BGP алгоритм вектора пути
• OSPF основан на маршрутизации состояния канала
• OSPF допускает разный вес ссылок и разделение на разные области

Автономность: в поисках основы для автономных систем следующего поколения

Автономные системы уже способны заменить людей в выполнении множества функций.Эта тенденция сохранится в ближайшие годы, когда автономные системы станут центральным и решающим фактором человеческого общества. Они будут широко распространены и будут включать, например, автомобили всех видов, медицинских и промышленных роботов, сельскохозяйственные и производственные объекты, а также распределенное управление дорожным движением, городскую безопасность и электрические сети.

Многие организации уже стремятся разработать новую волну надежных и экономичных автономных систем, а исследователи заняты созданием мощных инструментов и методов для процесса разработки.Однако чрезвычайно высокие уровни сложности и критичности создают новые фундаментальные проблемы. Рассмотрим, например, даже очень скромную автономную систему, робота-парковщика — очевидно, далеко от полностью автономного транспортного средства (АВ). Клиенты и регулирующие органы будут полностью вправе спросить, сможет ли робот обнаружить ребенка, которого забыли в машине, или заметить, что под ним сидит домашняя собака. Что в результате сделает робот, даже если он сможет это заметить? Как он отреагирует, если человек попытается остановить его, преследуя его и крича?

Ожидается, что автономные системы следующего поколения будут работать в условиях, которые часто будут непредсказуемыми во время их разработки из-за ограниченного контроля над системной средой, динамического появления новых видов объектов и событий в мире и экспоненциальный рост числа составных конфигураций таких элементов, как старых, так и новых.В литературе есть интересные демонстрации и обсуждения непредсказуемости автономных систем; см., например, (простое) видео SpotMini о домашнем помощнике (1) и, что более важно, обсуждение / критику его демонстрационной среды (2). Хотя тестовые среды и механизмы моделирования обеспечивают постоянно увеличивающееся разнообразие и реализм [см., Например, CARLA (3), PARACOSM (4), HEXAGON MSC (5) и Cognata (6)], они по-прежнему являются ограниченными и синтетическими. Инженеры должны иметь возможность заверить клиентов и регулирующие органы в том, что система будет работать правильно и безопасно не только в большом количестве критических сценариев, но и в сложных ситуациях с высоким риском, о которых раньше даже не думали.

Растет осознание того, что задачи разработки автономных систем следующего поколения будет трудно решить из-за недостатков в установленных методах и процессах. Другими словами, проблемы, подобные тем, которые описаны выше, не могут быть решены путем простого улучшения функций безопасности системы, например, путем добавления датчиков, исполнительных механизмов и логики и / или путем выполнения более сложных тестовых сценариев. Действительно, для решения некоторых из этих проблем объединенное сообщество, состоящее из соответствующих групп в промышленности, правительстве и академических кругах, запускает мероприятия по составлению дорожных карт и крупномасштабные совместные проекты (7⇓⇓ – 10).

Тем не менее, мы спорим, этого недостаточно. Требуемая надежность требует различных и более фундаментальных достижений в определенных соответствующих областях, как для инструментов разработки, так и для окончательной реализации системы. Мы считаем, что для сокращения разрыва между проблемами в разработке заслуживающих доверия автономных систем следующего поколения и нынешним уровнем развития техники исследовательское и промышленное сообщество должно создать общую инженерную основу для разработки таких систем. Эта основа, которую мы называем «автономность» *, должна решать уникальные проблемы, связанные с такими системами, путем предоставления концепций, перспектив и инженерных принципов, а также вспомогательных методов и инструментов.Концепции должны быть достаточно широкими, чтобы охватывать несколько способов работы, и должны включать средства для выбора среди альтернативных проектов, технологий и инструментов.

Мы считаем, что наличие такой основы может значительно ускорить развертывание и принятие высококачественных, сертифицированных автономных систем, созданных на благо человеческого общества.

Автономные системы нового поколения

Предварительные определения.

За прошедшие годы было предложено множество определений автономии (например,г., исх. 11⇓ – 13). «Автономные вычисления» (например, ссылка 14) фокусируются на системах, способных к самоуправлению и, в частности, автоматизировать динамическое конфигурирование. Область исследования агентно-ориентированного проектирования и, в частности, «многоагентных систем» (например, ссылка 15) предлагает перспективу автономии с уделением особого внимания вопросу объединения локальных целей с правилами сотрудничества и распределенными алгоритмами для достижения общесистемной общей цели. Автономия часто ассоциируется с «самосознанием» (например, исх.16), что подразумевает способность системы воспринимать изменения окружающей среды и использовать «знание» своих собственных состояний для адекватной реакции, так что достигается набор целей. «Симбиотические вычисления» (например, ссылка 17) изучают, как автономные системы могут взаимодействовать и взаимодействовать с людьми и со сложными организациями, учитывая многочисленные технические, коммерческие и этические последствия этого. Кроме того, контроллеры, разработанные с использованием таких шаблонов, как Sense – Decide – Act или Monitor – Analyze – Plan – Execute (MAPE), иногда называют автономными; однако одних таких контуров управления явно недостаточно для того, чтобы система могла перемещаться, вести себя и правильно функционировать в произвольных реальных открытых средах.

Чтобы упростить последующее обсуждение, мы предлагаем в этом и следующем подразделах определения некоторых основных понятий (см. Также ссылки 18⇓ – 20) и проиллюстрируем их на примере AV для фабрики. напольные и заводские поставки (называемые здесь FFAV).

«Системы» — это артефакты, над созданием которых работают команды разработчиков. Система работает внутри внешней среды и реагирует на нее и состоит из двух типов компонентов, агентов и объектов (последние, как объясняется ниже, обычно не создаются командой разработчиков), которые, как мы увидим, работать в общей внутренней системной среде.Скоординированное коллективное поведение агентов и объектов системы предназначено для достижения некоторых глобальных общесистемных целей.

«Объекты» — это те компоненты, на запрограммированное поведение которых не влияют во время разработки системы. Например, объекты системы FFAV могут включать в себя готовые компоненты, такие как двигатель, набор камер или рулевой механизм, вход которого, скажем, является желаемым углом передних колес. Система часто взаимодействует с объектами, которые не являются ее частью, но являются частью окружающей среды.Таковы, в случае FFAV, машины в производственном цехе (которые могут быть простыми препятствиями или получателями доставки) и пакеты, которые должны быть доставлены. У объектов есть «состояния», которые могут быть изменены агентами или другими объектами или могут изменяться «спонтанно» по внутренним причинам. Эти внутренние и внешние объекты становятся частью внутренней и внешней среды системы соответственно.

«Агенты» — это основные элементы поведения автономной системы. Это те, которые спроектированы (запрограммированы, построены) как часть процесса разработки системы. ^† У агентов есть «свобода действий»: они активны и преследуют определенные цели, которые могут динамично меняться. Агенты могут отслеживать объекты из внутренней и внешней среды и изменять их состояния. Они также могут координировать свои действия с другими агентами. Таким образом, система FFAV может иметь либо одного агента для всех своих функций, либо отдельных агентов для различных задач, таких как планирование работы, планирование маршрута, управление перемещением, захват и переноска. Агенты сами могут быть автономными системами и могут, в свою очередь, иерархически содержать других агентов и системы.

«Внутренняя среда» — это физическая и виртуальная инфраструктура нижнего уровня, используемая агентами и объектами системы. Он может включать компьютер / процессор / память, батареи и другие источники питания, операционную систему, коммуникационное оборудование и программное обеспечение, а также программное обеспечение для управления базами данных.

«Внешняя среда» системы (часто называемая просто «средой») — это совокупность всех объектов, с которыми система может взаимодействовать. Он может включать другие системы (с их объектами и агентами) и автономные объекты, а также любые другие физические или виртуальные объекты, которые могут влиять на поведение системы или быть затронутыми им.Ключевыми объектами во внешней среде любой системы, конечно же, являются люди — с их непредсказуемостью, инициативой, а также способностью и властью изменять поведение системы.

Определение автономного поведения.

Мы говорим, что система или агент (для простоты мы будем придерживаться системы ниже) проявляет «автономное поведение», если он воплощает следующие пять поведенческих функций, которые выполняются с минимальным вмешательством или без вмешательства человека или других систем. .

Две функции объединены, чтобы позволить системе построить для себя полезное представление о состоянии внешней среды.«Восприятие» — это функция, которая вводит стимулы, интерпретирует их основное значение и устраняет двусмысленность, давая релевантную информацию. Часто восприятию приходится иметь дело с мультимодальными входами, такими как зрение, звук, тепло, прикосновение, радар и передача данных из других систем, все полученные с помощью датчиков и устройств ввода, зависящих от режима, и затем должны объединять полученную информацию. Вторая функция — «Обновление модели», которая использует информацию, предоставленную Perception, для создания и постоянного обновления интегрированной модели времени выполнения, представляющей среду системы и ее состояния.Затем эта модель будет использоваться при постоянном принятии решений.

Две другие функции составляют процесс адаптивного решения системы. Это означает, что при принятии решений учитываются многие, возможно, конфликтующие цели, что зависит от текущего состояния системы и окружающей среды. «Управление целями» выбирает из набора целей те, которые имеют отношение к текущему состоянию. «Планирование» вычисляет план для достижения набора целей, созданных Goal Management, с учетом ограничений, зависящих от состояния; это действие агента в ответ на текущее состояние среды и может состоять из последовательности команд, которые должны выполняться исполнительными механизмами.И управление целями, и планирование могут принимать участие в решении противоречивых целей; они делают это, например, путем установления приоритетов, разрешения ограничений, продолжения работы по нескольким параллельным планам (отсрочки принятия решения) и консультаций с людьми или с другими системами.

Пятая функция, которая характеризует автономное поведение, — это «Самоадаптация», которая обеспечивает динамическую корректировку с течением времени целей системы и процессов управления целями и планирования посредством обучения и рассуждений, основанных на развивающемся состоянии системы и ее состоянии. среда.Такая адаптивность может проявляться во многих формах: в ближайшем будущем, например, используя метод проб и ошибок и недавний опыт, чтобы обойти незнакомое и ранее не указанное препятствие; «Обучение на протяжении всей жизни» системы, постоянная переоценка всей истории сенсорной информации, ее действий, успехов и неудач, чтобы лучше достигать своих целей в динамичной непредсказуемой среде; даже достижение определенной независимости, когда автономная система изучает всю изменяющуюся среду, выходящую далеко за рамки ее задач, и может корректировать не только свою работу, но и свои цели (рассмотрим AV, который, обнаружив, что ключевой пользователь не может путешествовать, организует сам по себе, чтобы привлекать людей или объекты к этому пользователю, или способствует телеконференции).Вопрос о том, когда следует ограничить адаптивность системы и привлечь людей, является широким и требует долгих размышлений и дальнейших исследований.

Автономные системы нового поколения разные.

Автономные системы нового поколения, как те, которые уже начинают появляться, так и, безусловно, будущего, отличаются от существующих систем несколькими ключевыми аспектами. Эти аспекты, которые мы сейчас обсуждаем, ставят прилагательное «следующее поколение», которое мы прилагаем к системам, о которых мы здесь говорим, за пределами тех, которые разрабатываются сейчас и будут введены в действие в самом ближайшем будущем.Скорее, мы рассматриваем те системы, которые, по нашему мнению, будут преобладать только через значительное количество лет.

У них есть большое количество возможных противоречащих друг другу системных целей.

Типичная автономная система следующего поколения не будет ориентирована на небольшое количество четко определенных целей, таких как выигрыш в шахматы или транспортное средство, достигающее пункта назначения без столкновений. Они обычно сталкиваются с гораздо более широким и более сложным набором целей, как это часто бывает у людей. Учтите, что FFAV выполняет очень критическую (и дорогостоящую) доставку, которая может подвергаться риску из-за проблем с безопасностью.Ситуация осложняется еще и финансовыми и юридическими соображениями производителя. ^‡ Например, владелец химического плана, который использует FFAV, может захотеть разрешить FFAV (осторожно) не подчиняться знаку остановки при выполнении очень срочной доставки, но производители FFAV могли запрограммировать его на полное соблюдение закона, чтобы уменьшить их ответственность.

Их окружение значительно менее предсказуемо.

Даже нынешние автономные системы уже имеют дело с огромным количеством известных конфигураций среды, и те, о которых мы еще не знаем, очевидно, добавят к этой сложности совершенно новый порядок величины.В то время как AV-обработка различных топологий дорог, объемов и скоростей движения, вероятно, может быть решена с использованием существующих технологий, существуют более сложные проблемы, с которыми люди обычно справляются и которые до сих пор не решаются должным образом. Для AV это, например, прихоти велосипедистов и мотоциклистов, которые въезжают и выезжают из транспортного потока на дорогах, тротуарах и пешеходных переходах; полицейские инструкции, устные или сигнальные; плохо обозначенные временные отклонения; чрезвычайные ситуации, которые еще не были обработаны службами быстрого реагирования, такие как дорожно-транспортное происшествие, оползень / камнепад или наводнение; или срочная просьба пассажира остановиться и выйти, но в тех случаях, когда для этого нет безопасного места.Подобные трудности вызваны возрастающей зависимостью от трудно предсказуемых физических аспектов динамической среды, усугубляемой возросшей мобильностью, распределением и огромным количеством систем.

Они требуют активного взаимодействия с людьми.

Классическое взаимодействие человека с компьютером (HCI) обычно ориентировано на обученных пользователей или операторов, управляющих автоматизированными задачами. Будущие интерфейсы должны будут иметь дело с общим поведением системы, воспринимаемым людьми, с тем, как система влияет на человеческое поведение и с тем, как люди думают о поведении системы.Автономные системы следующего поколения будут влиять на гораздо более широкий круг людей и подвергать их риску, и они будут все в большей степени подвергаться как полезным, так и враждебным действиям человека с необходимыми коммуникациями и взаимодействием, в которых они нуждаются. Достаточно подумать о пробке, вызванной AV-системой на оживленном шоссе, автономным краном на оживленной строительной площадке в центре города или роботом с медицинским снабжением, спешащим по переполненному коридору больницы, чтобы доставить спасательную жизнь.

Проблема взаимодействия с людьми гораздо глубже классической HCI.Во-первых, потому, что будущие системы будут работать в обычном человеческом окружении, имея взаимодействие с людьми, которые не являются ни пользователями, ни операторами, и над которыми владелец автономной системы не может контролировать. Их поведение не только должно быть функциональным, эффективным и безопасным, но также должно казаться таковым, чтобы вселить в людей уверенность в том, что это действительно так. Эти системы будут взаимодействовать с людьми совершенно по-новому, даже в рамках обычных повседневных дел, таких как преодоление полосы отвода через дверь офиса или указание пролива на полу проходящему мимо роботу-помощнику по уборке.

Во-вторых, интерфейс человек-компьютер должен быть гораздо более обширным, чем простой дисплей и клавиатура. Он будет охватывать большую часть того, что автономная система понимает и делает. Если FFAV должен передать хрупкую посылку человеку и забрать у него другую посылку, как он сообщает о своей готовности передать одну и получить другую, свои вопросы (например, получил ли человек-получатель уже удержание первый пакет?), его состояние (например, теперь он надежно держит вторую упаковку, так что хватка и внимание человека больше не нужны) и так далее.

В-третьих, особое внимание следует уделить тем частям интерфейса, которые позволяют человеку прервать работу автономной системы или резко ее изменить. Если рабочий уронил контактную линзу, которую FFAV не видит, как он / она немедленно ее остановить? Если FFAV получил неправильный пакет, как человек отзовет его обратно? Если какая-то аварийная работа блокирует нормальный, предварительно запрограммированный маршрут FFAV, и объезд не может быть легко обнаружен, как можно дать FFAV альтернативную специальную инструкцию в реальном времени и естественным образом, которая заставит его использовать конкретный альтернативный маршрут, например, съезд для инвалидов за зданием C?

Почему новый фонд?

Наше главное утверждение в этой статье состоит в том, что разработка заслуживающих доверия автономных систем следующего поколения требует решения фундаментальных проблем, которые не были должным образом решены с помощью нынешних исследований или промышленного опыта.Мы призываем исследовательское и инженерное сообщество создать и развивать основу для разработки таких систем, которая будет рекомендовать инженерные практики и методы, указывать на инструменты и технологии и предлагать базы и примеры с открытым исходным кодом. Он также будет включать метаинформацию, например, надежные средства для выбора среди альтернативных вариантов проектирования и разработки системы. Хотя эта основа автономии должна касаться всех аспектов системной инженерии, изначально она не должна быть направлена ​​на переписывание общепринятых принципов системной инженерии, а должна решать «острые» проблемы (например, те, которые мы обсуждаем в следующих разделах) и предлагать пути решения с ними на протяжении всей разработки.В противном случае широкие, всеобъемлющие усилия могут размыть и затемнить важные инновации, ради которых они были созданы, и даже могут быть полностью отвергнуты как бесполезная попытка «вскипятить океан». В то же время, если появятся дополнительные новые подходы к укоренившимся практикам, они должны быть серьезно оценены и, где это применимо, включены.

Существование разрывов между уровнем техники и достижением желаемой надежности было сформулировано, например, в официальном документе Института инженеров по электротехнике и радиоэлектронике (21) и в работе Neumann (22).В частности, последний фокусируется на необходимости справляться с воздействием уязвимости компонентов на полную уязвимость составной системы. В литературе, посвященной созданию и тестированию сложных автономных критически важных для безопасности систем (например, ссылка 23), очень мало теорий и инструментов для обеспечения уверенности (или доверия) в поведении системы во время выполнения перед лицом непредсказуемых ситуации. В тесно связанном с этим обсуждении проблем, с которыми сталкиваются системы следующего поколения, Чанг (24, 25) утверждает, что новые решения и действительно смена парадигмы необходимы и возможны, и что они могут быть реализованы с помощью новых подходов к анализу ситуации.

Чтобы подкрепить наш аргумент о важности и масштабности необходимого фундамента, мы сосредоточимся здесь на одном центральном аспекте, который лежит в основе разработки автономных систем, — на принятии решений. Мы представляем три частично совпадающих проблемы в разработке процессов принятия решений, для которых еще предстоит найти удовлетворительные решения.

Задача I. Определение поведения.

Поведенческая спецификация необходима практически на всех этапах и действиях процесса разработки: требования, проектирование, моделирование, тестирование, верификация и валидация.Поведение предпочтительно должно быть определено на каком-то строго определенном языке с согласованной динамической семантикой, но, по крайней мере, оно также может быть выполнено таким образом, чтобы его можно было напрямую сопоставить с точными и технически ориентированными описаниями естественного языка. Хотя для этой цели было разработано множество разнообразных компьютерных языков — процедурных, декларативных, логических, состояний, сценариев и т. Д. — мы утверждаем, что в автономных системах следующего поколения сама спецификация поведения порождает новые проблемы, требующие решения. Обширные исследования.Такие спецификации должны охватывать как классические желаемые, так и нежелательные последовательности событий и действий, связанные цели и их взаимные отношения, фактическое поведение, наблюдаемое и интерпретируемое машинами и людьми, а также предполагаемое поведение, которое, возможно, не было полностью соблюдено. Спецификация должна служить для создания систем, их тестирования, обеспечения связи между системами, между людьми, а также между системами и людьми, а также для обеспечения возможности метаанализа такой спецификации.

Когда дело доходит до сложных автономных систем, сложно определить даже одну простую цель.Предположим, что работодатель впервые хочет полностью автоматизировать процесс мытья полов. Какие спецификации нам нужны? Должен ли он быть сфокусирован на действиях (например, где и как подмести), на объектах и ​​объектах окружающей среды (например, какие виды грязи следует удалять и откуда) или на состояниях и результатах (например, на каких полах и как выглядят полки после того, как работа сделана)? Как следует сообщить разработчикам (и системе) о необходимости перемещать небольшие объекты или отключать устройства, которые мешают, или о том, как справиться с такими рисками, как что-то сломать?

Мы считаем, что здесь нам нужны способы описания соответствующего «мира» и связанного с ним поведения.Для этого мы предлагаем разработать предметно-ориентированные онтологии объектов, свойств, действий и отношений. Это направление может расширяться или извлекать уроки из текущих онтологий, таких как проект CYC (26), Google Knowledge Graph, язык веб-онтологий OWL и другие, но также может иметь различные направления проектирования. Например, сама сущность сущностей может быть связана с относящейся к действиям информацией о том, что эти сущности делают, что с ними можно делать, или как другие системы, как ожидается, на это отреагируют.В этом случае цель состоит не в том, чтобы получить всеобъемлющие (но неуловимые) знания, а в том, чтобы позволить принимать решения в рамках репертуара действий системы. Например, если FFAV видит на своем пути объект, который не может распознать, он должен иметь возможность представить изображение и, возможно, информацию датчиков другим объектам, таким как сервер в облаке. Затем сервер может проинформировать FFAV о том, что это за объект, чтобы он мог применить свои существующие правила, или он может дать команду FFAV предпринять определенные действия на основе знаний и логики сервера.

В контексте автономных систем некоторый прогресс в этом направлении можно найти, например, в диаграммах последовательности движения (27), сценариях Национальной администрации безопасности дорожного движения США (28), программном обеспечении автоматического программного обеспечения для AV (29) и с открытым исходным кодом. тренажеры типа CARLA (3). Каждый из них использует свои собственные термины и концепции в качестве строительных блоков при построении инструмента снизу вверх.

Помимо проблемы определения отдельных целей, кроется крайняя сложность определения того, как система должна уравновесить, расставить приоритеты или взвесить несколько, часто конкурирующих целей, в ошеломляющем множестве обстоятельств.Даже в одной конкретной ситуации, и даже если мы разрешаем использование естественного языка для спецификации, часто почти невозможно указать, что система должна или не должна делать. Многим автономным системам будущего поколения придется принимать сложные решения, связанные с серьезными человеческими и бизнес-рисками, и мы сомневаемся, что заинтересованные стороны могут заранее предписывать, что система должна делать в каждом конкретном случае.

Кроме того, конечно, помимо технических вопросов спецификации, есть еще и серьезные этические вопросы.Суды выносят решение о том, было ли решение, принятое человеком, правильным или неправильным, небрежным или нет, в соответствии с тем, что ожидается от разумного человека. Это станет значительно сложнее в сфере автономных систем, которые, например, должны будут определить, где именно сделать начальный разрез во время хирургической процедуры, или за доли секунды решить между двумя очень плохими альтернативами в аварийной ситуации вождения. .

Во время моделирования заинтересованные стороны часто сталкиваются с неожиданными свойствами и неожиданным поведением, которые не упоминались в процессе разработки.Например, при наблюдении за поведением AV, такого как FFAV или тележка для гольфа, можно заметить, что он иногда повторяет путь с необычной точностью, вызывая неожиданный износ пола, земли или травы. В результате могут потребоваться новые требования, такие как рандомизация путей, документирование ограниченного набора поддерживаемых поверхностей или даже использование преимуществ такого рода предсказуемости в других частях системы.

Еще одним осложняющим моментом являются динамические изменения спецификаций.Для человека, выполняющего определенную задачу, нет ничего необычного в получении новой информации или инструкций об изменениях в целях, в средствах их достижения или в предположениях об окружающей среде. Люди чаще всего неплохо справляются с такими обновлениями. Автономные системы должны будут поддерживать такие способы коммуникации и реактивного поведения (16).

Сделать это непросто. Непонятно даже, как указать формальную версию «заявки на неисправность», которая описывает событие, свойство или закономерность, которые были замечены человеком-наблюдателем, но не были частью исходной спецификации.Кроме того, можно было бы автоматизировать обнаружение и артикуляцию возникающих свойств, поскольку тестирование и моделирование, вероятно, будут в высокой степени автоматизированными, с ограниченными возможностями для наблюдения человека. Для ожидаемого поведения (желаемого или нежелательного) это было бы очень похоже на тестирование; но для неожиданного поведения автоматизация самого захвата формальным, но кратким и интуитивно понятным способом может оказаться серьезной проблемой, требующей существенного расширения текущих исследований в таких областях, как спецификация и обнаружение аномалий добычи (см.г., исх. 30⇓ – 32). Фактически, мы считаем, что известная цитата Кнута: «Остерегайтесь ошибок в приведенном выше коде; Я только доказал, что это правильно, а не пробовал », выходит за рамки признания важности тестирования с учетом ограничений формальных методов и доказательств правильности. Его можно использовать для подтверждения нашей уверенности в том, что тестирование необходимо еще и потому, что простое наблюдение за системой в действии дает совершенно новое понимание того, что система делает, а что не делает, и что она должна или не должна делать.

Объясняемость и интерпретируемость особенно важны для возникающих свойств, особенно для тех частей решений, которые основаны на нейронных сетях и других подходах «черного ящика».В некотором смысле, объяснения создают модель на основе, казалось бы, безмодельного решения для машинного обучения. Кроме того, и здесь автоматическое обобщение таких шаблонов выполнения является сложной задачей, которая является предметом активных исследований. Мы частично обсуждаем этот вопрос в Challenge III: Combining «Model-Based» и «Data-Driven подходы» ниже.

Задаче определения и объяснения поведения, которое должно динамически согласовывать несколько целей, можно облегчить, изначально добавляя веса, приоритеты и взаимные ограничения к целям, а также просто наблюдая за работой системы и наделяя компоненты, отвечающие за различные цели, с помощью возможности динамического внутреннего согласования.Ключевую роль также будут играть механизмы для определения и обработки случайного поведения, которое реагирует на негативные условия, непосредственно связанные с фактическим поведением системы, и обрабатывает их. Возможность давать краткие объяснения решений системы как в режиме реального времени, так и постфактум будет иметь большое значение, поскольку позволит разработчикам и самой системе судить о запрограммированных решениях и корректировать их по мере необходимости.

Вызов II: Анализ.

Под анализом мы подразумеваем моделирование, тестирование, формальную верификацию и проверку системы в соответствии с негласными потребностями заинтересованных сторон (сокращенно STV & V).Хотя эти методы будут иметь первостепенное значение для автономных систем следующего поколения, хорошо известно, что ни один из них не обеспечивает полных гарантий даже для существующих систем, поэтому их придется использовать таким образом, чтобы они дополняли друг друга.

Различные методы, входящие в состав STV & V, все включают в себя тот или иной способ выполнения системы или ее модели управляемым образом и / или обход или анализ результирующих состояний. Моделирование, пожалуй, является наиболее «практическим» из них, и оно облегчает наблюдение возникающих форм поведения — желаемых, нежелательных и еще не определенных — в различных условиях.Однако смоделированная среда всегда будет абстракцией и упрощением реальности. Существует множество инструментов моделирования, относящихся к AV; см., например, ссылки. 4, 8, 11 и 17. Хотя они эффективны и предоставляют важные функции, хотя и распространяются на разные инструменты, предлагаемая здесь основа требует дополнительных важных возможностей, таких как гораздо больший контроль пользователя над изменчивостью среды и возможность автоматического обнаружения и оценить новые эмерджентные свойства, которых не было в исходных спецификациях испытаний.

Одной из основных причин того, что удовлетворительный анализ STV&V требует фундаментальной работы, является огромное количество объектов и переменных, задействованных в сложных автономных системах, а также еще большее количество и сложность взаимодействий между ними. Это то, что мы сейчас обсуждаем.

Автономным системам обычно приходится иметь дело с множеством новых элементов, которые часто игнорируются, упрощаются или управляются другими системами. Просто представьте себе FFAV, развернутый на загруженном открытом производственном дворе, где люди, оборудование и транспортные средства перемещаются, обладая четкими формами, цветами, типами отражений, текстурами, размерами, местоположениями, позиционированием и маршрутами.Точное моделирование и эффективное тестирование этих систем и сред — сложная задача. Более того, что касается их взаимодействия, здесь проблема становится тревожно хуже. «Преднамеренные» действия системы можно разумно контролировать, но количество и сложность возможных взаимодействий и косвенных эффектов между всеми объектами окружающей среды и системой ошеломляют. Подумайте о тестировании очень маленького FFAV, пробивающегося сквозь толпу людей и машин, возможно, даже других живых существ — как в шоу домашнего скота.Взаимодействия, с которыми ему приходится иметь дело, не ограничиваются очевидными целями, например, достижением пункта назначения, избегая столкновений и соблюдая правила дорожного движения. Как насчет взаимодействия между объектами, которое возникает, когда FFAV пытается избежать брызг прохожих, когда он пересекает лужу? Как ему поступать в случаях, когда он может непреднамеренно напугать людей, когда тихо и внезапно появляется рядом с ними, или когда он запутывается в кабеле или в рыхлой ткани?

Как указывалось ранее, тот факт, что люди обитают во внешней среде автономных систем, еще больше усложняет ситуацию.Например, способность человека учиться и адаптироваться к новым условиям, вероятно, надолго превзойдет способность большинства систем. На такую ​​человеческую адаптивность можно положиться для определенных систем, где разработчики могут позволить системам изменять свое собственное поведение даже без предварительной координации с затронутыми людьми, полагая, что люди «все поймут» самостоятельно. Эта адаптивность также часто позволяет людям корректировать или отменять поведение систем, которые они контролируют. В любом случае полезно проанализировать границы допущений об окружающей среде, учитывая также прихоти людей.

Как и в случае со спецификациями, ниже мы перечисляем некоторые проблемы, которые должна решить автономная основа в отношении анализа. Один из них, который является предварительным условием любого анализа, связан с «моделированием окружающей среды». Мы предполагаем использование специализированных библиотек для различных типов систем и задач, чтобы иметь дело с физическим трехмерным пространством реальных объектов и их мобильностью. Эти библиотеки будут разными для разных областей применения.Подумайте только о самых разных средах, имеющих отношение к медицинской системе и транспортной системе. Среда должна быть смоделирована с использованием языков и инструментов, которые способны описывать знания об окружающей среде и ее допущения, а также для достижения желаемого уровня реализма путем управления уровнями абстракции и детализацией моделирования.

Вторая проблема, которую предстоит решить фонду, которая особенно важна для анализа, связана с «инфраструктурой», необходимой для STV&V.Это должно было бы включать механизмы, которые организуют и контролируют выполнение; настроить физическую или виртуальную среду; при необходимости играть роль окружающей среды; наблюдать, записывать, анализировать и действовать в соответствии с фактическим поведением системы; и взаимодействовать с инженерами по этим и связанным функциям. Мы хотим иметь возможность тестировать и моделировать автономные агенты во взаимодействии со сложной киберфизической средой, для которой они создаются. Инфраструктура должна быть «осведомленной о состоянии» и прозрачной, иметь возможность общаться с инженерами, используя естественные интерфейсы и журналы, которые интуитивно описывают состояние внешней среды, внутреннее состояние системы и ее агентов, а также состояние восприятия агентов. внешней среды.

Например, предположим, что вы хотите выяснить, что будет делать FFAV, когда он сталкивается с препятствием, состоящим из двух столбов, расположенных на расстоянии, которое едва превышает ширину FFAV. Будет ли он перемещаться между ними или обходить их? Стандартные методы тестирования и моделирования требуют фактического размещения препятствий и наблюдения за поведением системы. Однако, если мы также тщательно не проверим обратную связь от тестируемой системы в отношении того, что она «думает» о том, что она увидела, нельзя быть уверенным в том, что она воспринимает условия так, как задумано.Таким образом, FFAV действительно может проходить между постами, но по неправильной причине: он мог неправильно классифицировать один или оба из них.

Такой контроль восприятия является частным случаем осведомленности о состоянии, когда во время STV&V инфраструктура может сообщать о состоянии системы и окружающей среды; может управлять работой компонентов системы в зависимости от состояния других; и может сообщать и реагировать на то, что система делает и не делает, пути ее выполнения и т. д. Сложность всего этого усугубляется непредсказуемостью поведения.Даже относительно простая проблема определения того, какие из состояний и взаимодействий агента могут происходить параллельно с другими, чрезвычайно трудна.

Третья основная проблема аналитической части фундамента связана с контролем и измерением «поведенческого покрытия», достигаемого посредством тестирования, будь то виртуальное / in silico или путем развертывания автономной системы в реальном физическом мире. Такое покрытие относится к пространству всех состояний составной системы, в нескольких компонентах, а также путей и сценариев достижения этих состояний.Текущие методы тестирования сосредоточены на множестве соответствующих аспектов, включая охват объектов разработки (таких как операторы, компоненты, изменения программы и требования / утверждения), автоматическое выполнение и оценка тестов и автоматическое создание сценариев (33, 30). Производители AV иногда представляют количество миль (реальных и смоделированных), которое они проехали (см., Например, ссылки 34 и 35), как показатель поведенческого охвата.

Для тех типов систем, которые мы имеем в виду, которые будут развернуты в большом количестве по всему миру, эти подходы неадекватны.Даже то, что здесь кажется абсолютным минимумом — практический подход к измерению общего составного покрытия состояний как для системы, так и для среды — уже достаточно сложно (см. Обсуждение в ссылке 36). Мы предполагаем, что необходимо разработать методы для автоматической генерации обширных наборов сценариев с учетом критериев, которые могут быть внешними, т. Е. Из окружающей среды и реального мира, или внутренними, такими как сложные поведенческие комбинации объектов спецификации и реализации. Более того, учитывая невозможность исчерпывающего охвата всех возможностей времени выполнения, нам нужна поддержка ускоренного метаморфического тестирования в физических средах; я.д., тщательно проверяя правильность поведения системы для данного сценария, а затем быстро предоставляя гарантии для многих других сценариев, которые отличаются от базового сценария только небольшими физическими изменениями. Нам также нужны подходящие критерии для оценки самого процесса тестирования.

Наконец, фонд автономии должен будет заняться «формальной проверкой». Даже самые лучшие современные методы проверки могут быть успешно использованы только для отдельных компонентов или для значительно упрощенных моделей всей системы.Кроме того, очень сложно не только описать поведение самой системы, но и указать утверждения, описывающие поведение, которое мы хотим проверить, в терминах, которые легко согласуются с ожиданиями пользователей и инженеров. Это еще больше усложняется тем фактом, что вопрос о том, желательно ли какое-то поведение или нет, может быть не бинарным, а количественным, охватывающим несколько шкал (37).

Поскольку многие автономные системы следующего поколения будут иметь компоненты, основанные на машинном обучении (ML), формальная проверка нейронных сетей и возможность предоставить адекватные объяснения их внутреннего поведения будут становиться все более важными.Эти проблемы давно признаны очень сложными, и вокруг них появляется новая область исследований, первые результаты которых выглядят многообещающими (38, 39). Соответственно, в следующем разделе более подробно рассматривается проблема включения таких методов обучения на основе ИИ в основу.

Задача III: сочетание подходов, основанных на моделях и основанных на данных.

В последующем обсуждении мы используем термин «основанный на модели», чтобы включить классические подходы к разработке программного обеспечения, все из которых используют традиционные языки программирования и предписывают пошаговые процессы и / или правила, которые тщательно вручную создаются и организуются людьми.Сюда также входят методы проектирования приводов моделей (MDE), в которых используются языки, подобные тем, которые стали частью широкого унифицированного языка моделирования (UML). Однако мы не ограничиваемся MDE. Мы решили использовать термин «на основе модели», чтобы подчеркнуть тот факт, что разработчик должен создать и предоставить подробное техническое описание (модель) проблемы, ее входных и выходных данных, а также требуемой обработки и поведения. в терминах, которые соответствуют проблемной области.

Напротив, мы используем термин управляемый данными, чтобы охватить все методы, которые включают машинное обучение (включая, но не ограничиваясь, глубокие нейронные сети), статистический анализ, распознавание образов и все связанные формы вычислений, в которых поведение системы определяется получены в результате контролируемого или неконтролируемого наблюдения. Последнее может включать наблюдение за входными и выходными событиями и событиями в реальном мире или при обработке других систем, даже в более ранних версиях разрабатываемой системы.Таким образом делается вывод о желаемом поведении системы, которую мы разрабатываем; не предписывается, как в подходах, основанных на моделях.

Все чаще появляется потребность найти способы комбинировать эти две техники, используя их относительные преимущества для дополнения друг друга (40⇓ – 42). Тем не менее, до сих пор нет согласия о том, как это сделать, поскольку такая комбинация сильно отличается от практики интеграции в классической инженерии. Вдобавок, конечно, из-за возникающих новых проблем проблема еще больше усугубляется для автономных систем следующего поколения.

Существует несколько различий между традиционной разработкой программного обеспечения и созданием решений на основе машинного обучения, которые необходимо учитывать при попытке их интеграции. Чтобы лучше сконцентрироваться на проблеме интеграции в этом подразделе, мы не обращаем внимания на все еще открытые исследовательские проблемы в каждой из них.

Первое отличие касается «общего жизненного цикла». Традиционная программная инженерия — в любой из множества классических методологий жизненного цикла — требует выявления и спецификации требований, проектирования, кода, тестирования и так далее.Напротив, разработка модуля или системы на основе машинного обучения включает в себя совершенно разные этапы, такие как сбор, проверка и выборка обучающих данных, фактическое обучение, оценка, пересмотр и переподготовка и т. Д.

Второе отличие касается «указания» требования.» Рассмотрим даже очень простые случаи, например, требование, чтобы электрический выключатель отключался, когда температура достигает 80 °, или чтобы тормоза включались при обнаружении неподвижного препятствия, а время остановки при текущей скорости меньше 1 с.Они хорошо определены, и инженеры могут легко преобразовать их в рабочие компоненты, но для системы, обученной выдерживать чрезмерное нагревание или избегать столкновений на основе положительных и отрицательных примеров, совсем не ясно, как использовать требования или как их включить. в соответствующие компоненты ML.

С определением требований связан вопрос постфактум «объяснимости» (также называемой «интерпретируемостью»). Это требует способности обосновать или рационализировать конкретное системное решение с использованием связанных с проблемой параметров и аргументов.В более общем плане мы хотим иметь возможность описывать таким образом, что делает система, а также лежащие в основе правила, алгоритмы и вычисления, которые она использует. Несмотря на поразительный успех нейронных сетей в выполнении многих задач, их внутренняя работа часто остается загадкой. Текущие идеи, направленные на решение этой проблемы, все еще далеки от ситуации с традиционным программированием, для которого инженерные практики рекомендуют создавать код, который легко читать и понимать, и дополнять его обширными комментариями.Более того, даже если инструменты объяснимости и интерпретируемости в конечном итоге смогут извлекать неявные правила, лежащие в основе работы больших нейронных сетей, то, как эти правила соотносятся с реальными механизмами сети, будет сильно отличаться от отношения между описаниями естественного языка и исходным кодом в классической среде. языки программирования.

Кроме того, сложность определения поведения нейронных сетей и объяснения того, что они делают и почему они это делают, очень затрудняет анализ их поведения.Хотя некоторая начальная работа была проделана по проверке их свойств (см., Например, ссылку 39), многое еще предстоит сделать по тестированию и проверке систем, основанных на обучении.

Важное связанное различие включает «декомпозируемость», которая имеет решающее значение на большинстве этапов разработки, например, для понимания и прогнозирования поведения системы, поиска и исправления ошибок, выполнения улучшений и оценки воздействия изменений. В проектах, основанных на моделях, большинство системных артефактов можно иерархически разложить на хорошо понятные функциональные и структурные элементы, причем роль, которую они играют в системе в целом, более или менее ясна.Напротив, разработка решений машинного обучения на основе данных обычно сопровождается комплексным мышлением — системным или проблемным. Возможность разложить решение машинного обучения на значимые части представляется интересной задачей, которая, конечно же, будет иметь значение для объяснимости и проверки.

Наконец, мы упоминаем о различиях между двумя подходами в отношении их «надежности и сертификации», которые явно связаны с тестированием и проверкой. Многие виды автономных систем очень важны; несоблюдение их ожидаемого поведения может иметь катастрофические последствия.Критическое проектирование системы требует предоставления соответствующих гарантий надежности функций и надежности системы. Они часто указываются в стандартах, таких как DO178B для авиационных систем и ISO 26262 для электронных компонентов в автомобильной промышленности. В принципе, методы, основанные на моделях, обеспечивают предсказуемость во время разработки, но компоненты, основанные на машинном обучении, проектируются иначе. Достижение приемлемого уровня надежности и сертификации требует совершенно новых технических решений, поскольку традиционные методы тестирования и моделирования неадекватны, учитывая сложность и непредсказуемость автономных систем следующего поколения.Дополнительные нетехнические меры, такие как управление рисками, концепция страхования или использование системы правосудия в качестве средства защиты от халатности, являются отдельными вопросами и выходят за рамки данной статьи.

Эти существенные различия иллюстрируют масштаб методологической и технической проблемы интеграции, которую фонд автономии должен будет решить. Чтобы дать относительно простой пример этого, рассмотрим предлагаемую систему, которая в конечном итоге должна состоять из обычных компонентов, управляемых моделями (на основе, например,g., на объектной модели, алгоритмах, сценариях, правилах и таблицах решений) и компонентах машинного обучения, управляемых данными (например, на основе нейронных сетей). В какой-то момент инженерам придется решить, какие подзадачи следует решить, используя какой из двух подходов. Иногда ответ прост: например, чтение дорожных знаков может быть полностью основано на машинном обучении, в то время как решение оставаться ниже известного ограничения скорости может быть основано на модели. Пребывание в полосе движения на чистом, хорошо обозначенном шоссе может быть основано на модели, в то время как движение по покрытому песком дорожному покрытию вполне может быть основано на ML.Однако во многих случаях выбор между двумя подходами будет намного сложнее. Кроме того, разработка процесса принятия решения во время выполнения, который определяет, какая ситуация является релевантной, чтобы активировать соответствующий компонент (например, является ли поверхность дороги чистой или песчаной), сама по себе задача проектирования; параметры решения могут быть нечеткими, и разработчикам придется выбирать, использовать ли для этой подзадачи подход на основе модели, на основе данных или гибридный.

Фонд должен описывать и обсуждать различные конкретные подходы к интеграции.Одним из примеров является «конвейерный» подход, при котором некоторая предварительная обработка выполняется одним методом, а промежуточные результаты передаются другому методу. В подходе «разделяй и властвуй» проблема делится на подзадачи, и к каждой из них могут применяться разные методы; фактическое разделение может быть основано на модели или на данных. В другом подходе один метод (обычно правила) служит «защитной оболочкой» для другого (обычно на основе машинного обучения), ограничивая его пребывание в некоторой области принятия решений.В дополнительных вариантах подход, который в основном основан на модели, может включать несколько черных ящиков, управляемых данными, для улучшения обработки сенсора или для решения конкретных подзадач. Можно также применить оба метода для разработки полных решений, создавая таким образом избыточность, а затем использовать различные методы композиции или «голосования» для получения окончательного поведения системы.

По определению, такие подходы к составлению гибридных решений из компонентов на основе моделей и машинного обучения также подразумевают первый уровень декомпозиции решений.

Обсуждение

Автономные системы следующего поколения определенно будут построены и станут обычным явлением в ближайшие годы. Многие из них проявят некоторую важную форму критичности. Им придется справляться с неопределенностью сложных, непредсказуемых киберфизических сред и им придется адаптироваться к многочисленным, динамично меняющимся и, возможно, противоречивым целям. Ожидается, что они будут гармонично сотрудничать с людьми, что приведет к так называемой «симбиотической» автономии.Их предсказанное появление отражает переход от «узкого» или «слабого» ИИ к «сильному» или «общему» ИИ, чего нельзя достичь с помощью обычных методов, основанных на моделях, или только машинного обучения. Таким образом, классическое программное обеспечение и системная инженерия должны быть полностью усовершенствованы.

AV представляют собой символический актуальный случай, иллюстрирующий проблему. Например, из-за отсутствия стандартов и методов оценки соответствия некоторые государственные органы разрешают самостоятельную сертификацию AV, несмотря на их критичность.Другой вопрос — доказательства. Производители часто публикуют лишь частичную информацию о своем тестировании, например, расстояние, на котором AV был протестирован. Тогда можно только надеяться, что поведенческий охват действительно был достаточным, и что кто-то, кроме производителя, действительно изучил тесты и посчитал их удовлетворительными. Еще одна проблема, связанная с доверием, заключается в том, что критически важное программное обеспечение можно регулярно обновлять, что дает надежду на то, что определенные виды сбоев AV будут немедленно исправлены во всех AV по всему миру.Однако это также вызывает озабоченность по поводу того, что обновления могут быть развернуты с менее чем адекватным тестированием, вызывая проблемы более критического воздействия, чем стандартные обновления операционных систем смартфонов или персональных компьютеров.

Все это вызвало оживленную общественную дискуссию. Многие важные голоса стремятся свести к минимуму риски, связанные с отсутствием строгих методов проектирования: некоторые заявляют, что мы должны принять риски, потому что преимущества намного перевешивают их. Другие принимают эмпирические методы и утверждают, что строгие подходы к решению сложных проблем по своей сути неадекватны.Некоторые люди слишком оптимистичны, утверждая, что у нас действительно есть нужные инструменты, и это всего лишь вопрос времени. Кроме того, помимо всего этого, мы должны принять во внимание все соответствующие этические / моральные, правовые, социальные и политические вопросы — обширная тема, которая явно выходит за рамки данной статьи.

Наша газета вносит двойной вклад. Во-первых, мы предлагаем базовую терминологию для автономных систем следующего поколения и структуру, отражающую их основные характеристики, и обсуждаем, чем они отличаются от современных автономных систем.Структура обеспечивает понимание спектра возможностей между автоматизацией и автономией и предназначена для помощи в понимании степени автономности системы как разделения работы между системой и людьми.

Во-вторых, мы утверждаем, что появление автономных систем следующего поколения ставит необычайную научную и техническую проблему, и выступаем за необходимость создания нового фундамента, который решит ключевые нерешенные проблемы в их разработке. Мы надеемся, что такая основа автономии в конечном итоге приведет к созданию надежных аппаратных / программных систем.Степень успеха в решении этой задачи в конечном итоге поможет определить степень принятия таких систем как компромисс между их предполагаемой надежностью, ожидаемыми преимуществами автоматизации, которую они предоставляют, и необходимыми изменениями в других системах и в поведении человека.

Мы ожидаем, что формирование этого фундамента потребует серьезных и новаторских усилий в трех основных направлениях, представленных выше, и которые мы кратко резюмируем ниже.

Первый — разработать строгую теорию и вспомогательные инструменты для работы с неоднородными спецификациями.Они должны дать возможность охарактеризовать поведение системы в широком смысле, включая поведение ее отдельных агентов, а также глобальное поведение системы с точки зрения ее общих целей и возникающих свойств.

Второе направление направлено на предоставление достаточных доказательств надежности системы. Мы подчеркнули первостепенную важность моделирования и симуляции: нам необходимо достоверное, реалистичное моделирование поведения, а также семантическая осведомленность, чтобы экспериментатор имел доступ к значимой абстракции динамики системы, обеспечивающей управляемость и повторяемость тестирования.Последнее также обеспечит поведенческий охват, где мы измеряем степень изученности соответствующих конфигураций системы.

Третье направление усилий, необходимых для фундамента, включает принятие мощного «гибридного» подхода к проектированию, поиск компромиссов между надежностью классических подходов, основанных на моделях, и производительностью методов машинного обучения на основе данных. Чтобы получить больше преимуществ от каждого подхода, требуется разработка общих архитектурных фреймворков, которые будут интегрировать модули, характеризующиеся их чистой функциональностью, независимо от их подхода к проектированию.Для достижения этой цели необходимо разработать теорию декомпозируемости, совместимости и объяснимости модулей на основе данных.

Таким образом, мы находимся в начале революции, когда машины призваны постепенно заменять людей в их способности осознавать ситуацию и принимать адаптивные решения. Для этого требуются некоторые аспекты общего ИИ, которые выходят за рамки целей интеллекта с поддержкой машинного обучения.