CNMCyber Usable

CNM Cloud Usable (in the Russian-language version, known as Работы над Облаком) is the fourth, current, phase of the CNM Cloud Project. CNM Cloud (hereinafter - the Cloud) is a set of technologies that supports CNM Cyber. This very wikipage presents the primary list of those endeavors that are included in that phase. CNM Cyber Project Coordinators (hereinafter, the Coordinators) are invited to organize work on its endeavors.

Trivia

Projects vs operations

The endeavors include:

• Projects undertaken to develop new systems to be deployed at the Cloud.
• Operations undertaken to sustain productive functions of deployed systems of the Cloud.

Cloud layers

1. CNM Farms. The Cloud infrastructure or, in other words, ecosystem of computing servers and cloud OS to support both Opplet and CNM apps.
2. Opplet. The enterprise-wide utility software that supports CNM apps regardless of their location of those applications in the Cloud.
3. CNM apps. End-user applications of the Cloud.

Farms

CNM Farms (hereinafter, the Farms) present the infrastructure for the functioning of both the CNM apps and Opplet that serves those apps.

Farms' administration

For the purposes of this wikipage, the Farms' administration refers to those endeavors that are utilized or can be used on several rather than one individual Farm:

• Integration for CNM Cloud. Development of CNM Cloud Integration that is based on exploring the possibilities of integrating the Cloud, such as using Jenkins and Kafka, and adding VPNs, such as integrating email services across the Farms.
• Configuration for CNM Cloud. Development of CNM Cloud Configuration that is based on exploring the possibilities of adding the ability to automatically create virtual machines, possibly using Terraform and Ansible.
• Statistics for CNM Cloud. Development of CNM Cloud Statistics that is based on exploring the possibilities of using ZooKeeper and log management.
• Revisions for CNM Cloud. Development of CNM Cloud Revisions that aims to build the system of periodic revisions of the Cloud.

Authorized projects related to the Farms' administration

Endeavors	Integration	Configuration	Statistics	Revisions
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Database management

For the purposes of this wikipage, the database management refers to those endeavors that are related to databases of the Cloud:

• MariaDB for CNM Cloud. Development of CNM MariaDB that is based on exploring the possibilities of additional functionality, such as MariaDB MaxScale and MariaDB xPand, to an existing MariaDB cluster of the Cloud.
• PostgreSQL for CNM Cloud. Development of CNM PostgreSQL that is based on exploring the possibilities of creating a cluster of PostgeSQL databases of the Cloud.
• DBs for Opplet -- изучение возможности построения кластера для Оплёта.
• Ceph for CNM Cloud -- использование Ceph в the Cloud.

In addition to building clusters of nodes of Bratsk Farms, it is planned to consider the possibility of linking similar databases with each other for their more stable functioning.

    Bases for Oplet -- exploring the possibility of building a cluster for Oplet.
    Ceph for the Cloud -- using Ceph in the Cloud.

Authorized projects related to database management

Работы	MariaDB	PostgreSQL	Opplet (DB)	Ceph
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

DNS management

For the purposes of this wikipage, DNS management refers to those endeavors that are utilized or can be used to manage DNS of the Cloud:

• CDN в Облаке -- изучение возможности использования функционала content delivery network или CDN для некоторой прилады the Cloud.
• DNSSEC в Облаке -- изучение возможности добавки к какой-то части the Cloud функционала DNSSEC.
• Geocast в Облаке -- изучение возможности добавки к какой-то части the Cloud функционала Geocast.
• IPv6 в Облаке -- перевод DNS the Cloud, кроме общественных доступов, на протокол IPv6.
• Ревизия DNS -- ревизия всех DNS записей the Cloud.

Authorized projects related to DNS management

Endeavors	CDN	DNSSEC	Geocast	IPv6	Ревизия DNS
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Support tools

Для целей этой вики-страницы, к инструментам поддержки the Farms отнесены инструменты разработок ПО и те инструменты администрирования на странице https://github.com/kahun/awesome-sysadmin, которые не задействованы в проектах описанных в других разделах.

• Панели управления для Облака -- построение Панелей управления в Облаке на базе изучения возможности добавления VestaCP, а также использования Cachet.
• Рабочие среды для Облака -- построение Рабочих сред в Облаке на базе изучения возможности добавления Eclipse.

Утверждённые проекты инструментов поддержки Ферм

Работы	Панели управления	Рабочие среды
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Node clusters

Четыре Farms состоят из объединённых в кластеры узлов. Каждый кластер должен иметь как минимум один (а) вход, который для высокодоступных Ферм включает распределитель запросов (load balancer) на общественном веб-адресе, (б) синхронизацию ресурсов общих отдельных узлов, как минимум, баз данных, (в) мониторинг, (г) безопасность, включая защитные стены (firewall) и (д) систему резервного копирования (backup) и восстановления.

• Работа над Деловой -- это проекты развития и поддержания Деловой Фермы. В настоящее время, кластер на основе трёх "железных" серверов принят у подрядчика после сборки и добавки функционала высокой доступности. Затем сюда будет перенесено содержимое прилад. Не решены вопросы (а) входа по IPv4, (б) безопасности за пределами iptables, (в) добавления NAS и продвинутого резервного копирования и восстановления, а также (г) продвинутого мониторинга. В качестве оптимизации расходов, рассматривается вопрос замены одного "железного" сервера на сервер Опытной Фермы.
• Работа над Кампусной -- это проекты развития и поддержания Кампусной Фермы. В настоящее время, собран кластер из трёх виртуальных частных серверов, базы данных которых синхронизированы, и для них заказывается функционал высокой доступности, включая (а) вход, (б) мониторинг, (в) безопасность и (г) система резервного копирования и восстановления. К одному из серверов также подключено дополнительное хранилище, которое предполагается переделать на NAS.
• Работа над Опытной -- это проекты развития и поддержания Опытной Фермы. В настоящее время, находится в неопределённом положении. Формально, она состоит из двух "железных" серверов, однако они фактически не включены в работу. Из всех Farms, эта -- единственная, которая не требует функционала высокой доступности из-за эксперементальной природы установленных на ней приложений. Из-за отсутствия высокой доступности, эта ферма потребует продвинутую систему резервного копирования и восстановления.
• Работа над Оплётной -- это проекты развития и поддержания Оплётной Фермы. В настоящее время, состоит из двух виртуальных частных серверов, которые между собою не синхронизированы. Ожидается, что часть наработок Кампусной Фермы будет использованы здесь.

Ранее, использовалось частное облако построенное на OpenStack. Оно было закрыто из-за высокой стоимости и низкой в то время загруженности. Развитие проекта может потребовать перевода части ресурсов the Farms на облачное решение снова. В последнее время, популярным также стал Apache CloudStack. Eсли таковое решение будет принято, необходимо будет решить, какой пакет обеспечения задействовать и будет ли это развитием Опытной или Оплётной Фермы.

Утверждённые проекты кластеров Ферм

Работы	Над Деловой	Над Кампусной	Над Опытной	Над Оплётной
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Opplet

Разработку Оплёта можно разбить на две группы:

1. Услуги приладам -- это усилия по построению тех федерационных услуг, которые Оплёт предоставляет пользовательским приложениям.
2. Услуги пользователям -- это усилия по построению тех услуг, которые Оплёт предоставляет конечным пользователям.

Усилия по переделке Оплёта на кластер относятся к проектам связок баз.

App-oriented

• Перевод Оплёта на WSO2 IS -- перевод Оплёта с использования OpenLDAP в его коммуникации с приладами на использование WSO2 IS. OpenLDAP не позволяет осуществить услугу "технологии единого входа" (single sign-on или SSO). Кроме того, созидатели the Cloud столкнулись с проблемой изменения ролей в OpenLDAP.
• Регистрация Оплёта на курсы -- перевод регистрации на курсы участников Bskol из Учебки в Оплёт. Регистрация на курсы в Учебке сегодня осуществляется через инструмент cron, который имеет задержку срабатывания. Однако главная проблема, которую надо решить, -- это регистрация участников в учебных системах, которые отличаются от Учебки.
• Почтовый агрегатор Оплёта -- федерализация отдельных почтовых агентов различных приложений.
• Регистрация Оплёта в приладах -- добавление приладам функции регистрации пользователей в Оплёте. В данный момент, пользователь должен предварительно зарегистрироваться в Оплёте для того, чтобы пользоваться продвинутыми услугами прилад.
• Роли Оплёта -- добавление функции автоматического изменения ролей Оплёта в зависимости от завершения курсов и определённых элементов курсов на Учебке. В данный момент, роли в Оплёте изменяются только администраторами вручную.
• Склады Оплёта -- добавление федеративных баз данных и хранилищ в Оплёт и синхронизация хранения данных по всему the Cloud. Прежде всего, эта федерация касается данных клиентов для Справы и Связки. Ранее, обсуждалась возможность использования MongoDB для хранения данных, MuleESB для их сбора и Apache Hadoop для "причёсывания". В дополнение, шёл разговор об включении будущего вики-склада для хранения картинок используемых в Брацкой Правке в Оплёт. Ещё одной идеей было задействование Брацкой Крынки в хранении файлов.
• Тестовый агрегатор Оплёта -- перенос блока банка вопросов из Учебки в Оплёт.

Утверждённые проекты услуг Оплёта для прилад

Работы	Идентификация	Курсы	Почтовый агрегатор	Регистрация	Роли	Склады	Тесты
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

User-oriented

• Интерфайс Оплёта -- обновление интерфейса opplet.net до лучше выглядещего и более удобного для пользователей.
• Мероприятия Оплёта -- добавление функции управления участия в мероприятиях организованных в рамках проекта Bskol.
• Почта корпоративная -- доведение услуг почты Оплёта от минимально-жизнеспособного продукта до готового изделия.
• Рассылки Оплёта -- добавление функции подписки на рассылки и отписки от них.

Утверждённые проекты услуг Оплёта для пользователей

Работы	Интерфейс	Мероприятия Оплёта	Почта корпоративная	Рассылки
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Apps

Усилия по построению пользовательских приложений, которые включены в существующую и могут потенциально быть включены в технологию перспективную. Для всех, надо:

1. Обновлять все приложения до последних стабильных версий и устанавливать свежие патчи, если и когда они появляются в наличии. Основное требование для любого приложения -- привязка к нашему WSO2 Identity Server (WSO2 IS). Дополнительное требование для любого приложения -- привязка к нашему OpenLDAP.
2. Документировать то, что у нас есть, и выявлять проблемы.

Utilizing MariaDB

Пять полных прилад the Cloud используют MariaDB в качестве своих баз данных:

• Работа над Бачками для разработок Брацкой Бачки, её курсовой и будущей версии, а также ПО. В настоящее время, основная прилада установлена, но не используется. Ранее, туда были записаны несколько пробных видео, их судьба в данный момент не известна. Основная прилада, скорее всего, не будет установлена на главном кластере Кампусной Фермы из-за особенностей добавки функционала высокой доступности. Нет решения где и как она будет окончательно установлена.
• Работа над Вебками для разработок Брацкой Вебки, её курсовой и будущей версии, а также ПО. В настоящее время, установленных прилад нет. Предпринималось несколько попыток установки, однако эффективной стратегии борьбы с вирусами найдено не было.
• Работа над Правками для разработок Брацкой Правки, её курсовой и будущей версии, а также ПО. В настоящее время, основная прилада установлена и активно используется. Из-за проблем интеграции с LDAP, версии уже несколько лет не обновляются. Также периодически появляются проблемы с картинками. Почтовый агент либо не подключен, либо не работает.
• Работа над Сетками для разработок Брацкой Сетки, её курсовой и будущей версии, а также ПО. В настоящее время, основная прилада установлена, но используется несистематически. Почтовый агент либо не подключен, либо не работает.
• Работа над Учебками для разработок Брацкой Учебки, её курсовой и будущей версии, а также ПО. В настоящее время, основная прилада установлена и активно используется. Несколько проблем задокументировано на странице Работа над Учебками. Почтовый агент либо не подключен, либо не работает.

Утверждённые проекты использующих MariaDB прилад

Работы	Бачки	Вебки	Правки	Сетки	Учебки
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Так как приложения существуют не в вакууме, часть усилий по развитию приложений относится к другим группам. Например, к:

• Доменным проектам относится CDN в Облаке.
• Эксперементальным проектам относится LDAP для Правки.

Utilizing non-MariaDB

• Перевод Крынки на GitLab для разработок Брацкой Крынки, её курсовой и будущей версии, а также ПО. Окончательный перевод Крынки с Redmine на GitLab. В настоящее время, GitLab стоит и несистематически используется, хотя и не на верном веб-адресе. База данных -- PostgreSQL. Тот Redmine, который использовался для Крынки, надо перевести на Опытно Облако.
• Работа над Связками для разработок Брацкой Связки, её курсовой и будущей версии, а также ПО. В настоящее время, не используется вообще. База данных -- PostgreSQL.
• Работа над Справами для разработок Брацкой Справы, её курсовой и будущей версии, а также ПО. В настоящее время, не используется, но есть планы переводить туда отдел кадров и рекрутирование. База данных -- PostgreSQL.
• Устойчивость для Жици для разработок Брацких Жиц, её курсовой и будущей версии, а также ПО. Построение кластера для высокой доступности Брацких Жиц. Основная прилада стоит и, в настоящее время, предпринимаются попытки её использования. База данных неизвестна.

Утверждённые проекты неиспользующих MariaDB прилад

Работы	Крынки	Связки	Справы	Жици
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Experimental

Усилия по построению перспективных и популярных ресурсов the Cloud:

• MediaWiki LDAP -- уже много лет, стабильная версия MediaWiki не обновляется из-за конфликта новых версий с нашим плагином LDAP. Однако принято решение о переводе интеграции на WSO2 IS и не ясно, будет ли оставлен LDAP в качестве обязательного.
• OpenEdX -- Moodle решено оставить исключительно под три начальных курса Лестницы к Профессии. Другие курсы, включая языковые, планируется делать на платформе OpenEdX.
• ProjecQtOr -- некогда был установлен для коротких тренингов по ПО для управления проектами.
• Redmine -- некогда использовался для Крынки, сейчас рассматривается возможность оставить для тренинга или в качестве "музейного" экспоната.
• Taiga -- некогда был установлен для коротких тренингов по ПО для управления проектами.

Утверждённые эксперименты с приладами

Работы	MediaWiki LDAP	OpenEdX	ProjecQtOr	Redmine	Taiga
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Enterprise

Administration

• Кадры для Облака -- построение Кадров Облака, отдела кадров и практик по обслуживанию существующего персонала.
• Организация для Облака -- построение Организации Облака, структуры организации стоящей за the Cloud.
• Финансы для Облака -- построение Финансов Bskol, финансового учёта и отчётности, а также управления финансами.
• Юридическое для Облака -- построение Юридических аспектов Облака, юридического оформления деятельности Облака.

Утверждённые проекты по построению администрации

Работы	Кадровое	Организационное	Финансовое	Юридическое
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

External operations

• Индустрия для Облака -- построение Слежения за индустрией Облака, системы по сбору данных об индустриях the Cloud, их новостях и тенденциях, изучению этих данных, сравнение организации работы с the Cloud с общими тенденциями и выработки предложений по измемениям в работе с the Cloud.
• Разработчики для Облака -- построение Работы с разработчиками Облака.
• Технологии для Облака -- построение Слежения за технологиями Облака, системы по сбору данных о технологиях на рынках the Cloud, их новостях и тенденциях, изучению этих данных, сравнение предложений the Cloud с предложениями конкурентов и выработки предложений по измемениям в the Cloud.
• Техподдержка для Облака -- построение Службы техподдержки Облака
• Эксплуатационщики для Облака -- построение Работы с эксплуатационщиками Облака.

Утверждённые проекты по построению внешних операций

Работы	Индустрия	Разработчики	Технологии	Техподдержка	Эксплуатационщики
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability

Stakeholder groups

For the purposes of this wikipage, stakeholder groups refer to those endeavors that are utilized or can be used to manage groups of the Cloud stakeholders:

• Комитеты для Облака -- построение Ценных Облаку комитетов
• Советы для Облака -- построение Ценных Облаку советов
• Пользователи для Облака -- построение Групп пользователей Облака
• Сисадмины для Облака -- построение Сообщества Сисадминов‎.

Authorized projects related to stakeholder groups

Endeavors	Комитеты	Советы	Пользователи	Сисадмины
Business requirements
Product prototypes
User requirements
Work requirements
Technical requirements
Endeavor consent
Utility
Applicability
Controllability