Брацко Облако — различия между версиями

Материал из Брацка Правки
Перейти к: навигация, поиск
(→‎Приложения в кластерах)
(→‎Развитие)
 
(не показано 388 промежуточных версий 3 участников)
Строка 1: Строка 1:
−
[[Брацко Облако]] (CNM Cloud; далее то тексту -- ''Облако'') -- это технологические ресурсы [[Брацка Школа|Брацкой Школы]] (здесь и далее то тексту -- ''Школы''). ''Облако'' представляет собой совокупность программного обеспечения и поддерживающей его материальной части.
+
[[Брацко Облако]] (CNM Cloud; иногда кодируемое как "[[bo]]", далее то тексту -- ''Облако'') -- это технологические ресурсы обслуживающие онлайн операции [[Брацка Школа|Брацкой Школы]] (здесь и далее то тексту -- ''Школы''). ''Облако'' представляет собой совокупность программного обеспечения и поддерживающей его материальной части.
  
 +
 +
==Цели и задачи==
 +
===Цели===
 +
:''Облако'' предоставляет автоматически или поддерживает технологически тех людей, которые предоставляют услуги, имеющие целью:
 +
:#'''Профессионально сориентировать''', поддерживая организацию обзорных семинаров, практик и консультаций для тех, кто определяется с профессией.
 +
:#'''Подготовить к профессиональной деятельности''', обеспечивая учебный процесс, обучение на рабочем месте или сертификацию профессиональных компетенций для тех, кто нарабатывает профессиональные квалификации.
 +
:#'''Трудоустроить''', предоставляя знания, инструменты, сертификации, доступ к контактам и маркетинговым каналам тем, кто:
 +
:#*Уже готов к профессиональной деятельности и ищет конкретную работу.
 +
:#*Нанимают найденные, подготовленные и/или сертифицированные с использованием ''Облака'' кадры.
 +
:#'''Поддержать трудоустроенных''', оказывая административные услуги и консультации, а также финансируя предприятия тех выпускников, которые решили организовать или продвинуть свои собственные бизнесы.
 +
 +
===Задачи===
 +
:''Облако'' решает задачи обеспечения потенциальных и существующих учеников [[Брацкой Школы]] и вовлечённых в проект [[Bskol]] площадкой для учёбы и работы, в частности, ''Облако'' обеспечивает:
 +
:*'''Всех пользователей''' [[Всемирная Паутина|Всемирной Паутины]] -- гостевым доступом к общественным ресурсам ''Облака'', включая [[Брацка Правка|Правку]],  [[Брацка Вебка|Вебку]], [[Брацка Бачка|Бачку]],  [[Брацки Жици]], [[Брацка Крынка|Крынку]]
 +
:*'''Зарегистрированных''' в [[Оплёт]]е пользователей -- пользовательским доступом к [[Оплётна Кабина|Кабине]]
 +
:*'''Учеников''' -- пользовательским доступом к [[Брацка Учебка|Учебке]], [[Брацка Правка|Правке]], [[Брацка Вебка|Вебке]],  [[Брацка Бачка|Бачке]],  [[Брацка Жици|Жици]], [[Брацка Сетка|Сетке]] и административным доступом к тем [[Курсовы Прилады|Курсовым Приладам]], которые они изучают.
 +
:*'''Координаторов и подрядчиков''' -- пользовательским доступом к [[Брацка Крынка|Крынке]] и административным доступом к тем [[Опытны Прилады|Опытным Приладам]], над которыми они работают.
 +
:*'''Подмастерьев, мастеров и сотрудников''' -- пользовательским доступом к [[Брацка Связка|Связке]], [[Брацка Пошта|Поште]], [[Брацка Справа|Справе]]  и административным доступом к тем [[Полны Прилады|Полным Приладам]], которые они обслуживают.
 +
:*'''Участников коротких тренингов''' -- доступом к тем виртуальным ресурсам, которые созданы специально для этого тренинга. Школа будет устраивать тренинги и планирует выдавать ресурсы для практических занятий. После регистрации на тренинг, участник должен получать имэйл со ссылкой на ресурс с логином и паролем. Ресурс должен быть либо виртуальной машиной, либо контейнером. Специалист считает, что так как контейнер создаётся одной строкой, можно сделать скрипт под Линукс, который будет создавать контейнер из образа и добавлять к нему логин и пароль.
  
 
==Общие положения==
 
==Общие положения==
−
===Основные цели===
+
''Облако'' имеет в наличии сотни приложений и множество систем, точное число которых постоянно изменяется. В этом разделе упомянуты только основные из большого разнообразия тех приложений и систем.
−
:Технологические ресурсы призваны поддерживать людей, которые:
+
 
−
:*либо определяются с профессией (помогая организовывать обзорные семинары, практики и исследования для них),
+
===Технологические ярусы===
−
:*либо нарабатывают профессиональные квалификации (обеспечивая учебный процесс, обучение на рабочем месте или сертификацию навыков для них),
+
:''Облако'' включает в себя три яруса программного обеспечения:
−
:*либо ищут конкретную работу (предоставляя знания, инструменты, сертификации, доступ к контактам и маркетинговым каналам).
+
:#[[Брацки Фермы|Инфраструктуру]] называемую [[Брацки Фермы]],
 +
:#[[Оплёт|Связующее обеспечение]] или федерационную службу называемую [[Оплёт]]ом, и
 +
:#[[#Пользовательские приложения|Пользовательские приложения]].
 +
 
 +
===Поддержка программных языков===
 +
:''Облако'' поддерживает следующие языки:
 +
:*[[PHP]]. Поддерживаются версии 7.4. и 8.0.9. [[Apache HTTP server]] определяет, какой язык будет использоваться через скрипты типа:<blockquote><nowiki><FilesMatch \.php$># From the Apache version 2.4.10 and above, use the SetHandler to run PHP as a fastCGI process server
 +
SetHandler "proxy:unix:/run/php/php7.4-fpm.sock|fcgi://localhost"</FilesMatch></nowiki></blockquote>
 +
:*[[Python]].
 +
 
 +
==Брацки Фермы (инфраструктура)==
 +
:''Основная вики-страница: [[Брацки Фермы]]''
 +
 
 +
===Делова Ферма===
 +
:''Основная вики-страница: [[Делова Ферма]]''
 +
 
 +
===Опытна Ферма===
 +
:''Основная вики-страница: [[Опытна Ферма]]''
 +
 
 +
===Кампусна Ферма===
 +
:''Основная вики-страница: [[Кампусна Ферма]]''
 +
 
 +
===Обеспечение Ферм (сводка)===
 +
:{|class="wikitable" width=100%
 +
|+[[Брацки Фермы|Инфраструктура]] ([[Брацки Фермы|Фермы]])
 +
|style="text-align:center;"|Компоненты
 +
!Название!!Предназначение!!Технология!![[Веб-адрес|Веб&#8209;адрес]]
 +
|-
 +
!rowspan="6"|Делова
 +
|Частное облако||Поддержка [[#Пользовательские приложения|Пользовательских приложений]] и [[Оплёт|Связующего обеспечения]]||[[OpenStack]]||rowspan="7"|Спрятан
 +
|-
 +
|Виртуальная среда||Управление виртуальными машинами для [[Опытно Облако|Опытна Облака]]||[[ProxmoxVE]]
 +
|-
 +
|Мониторинг||Слежение за работой вычислительных серверов и сообщения о неполадках||[[Nagios Core]]
 +
|-
 +
|Установщик||Инструмент для установки, конфигурации и удаления пакетов программного обеспечения||[[APT]]
 +
|-
 +
|rowspan="2"|Веб-сервер||Первичное управление запросами поступающими по [[HTTP]]||[[NGINX]]
 +
|-
 +
|Вторичное управление запросами поступающими по [[HTTP]]||[[Apache HTTP server|Apache]]
 +
|-
 +
!Опытна
 +
|-
 +
!Кампусна
 +
|-
 +
!Оплётна
 +
|}
 +
 
 +
==Оплёт (федерационная служба)==
 +
:''Основная вики-страница: [[Оплёт]]''
 +
 
 +
[[Оплёт]] -- это то служебное программное обеспечение, которое собирает и [[Брацки Фермы|Инфраструктуру]] ''Облака'', и его [[#Пользовательские приложения|Пользовательские приложения]] в единую систему. ''Оплёт'' представляет собой связующее программное обеспечение, которое может обеспечивать все  вне зависимости от их расположения в системе, прежде всего, услугами по идентификации всех пользователей ''Облака'', регистрации новых пользователей, определение ролей пользователей, авторизации их доступов и так далее.
 +
 
 +
===Запись на курсы===
 +
:В настоящее время запись на курсы производится через [[Брацка Учебка|Брацку Учебку]], обычно, через самозапись. Самозапись создаёт неудобства для некоторых учеников -- перед записью, они должны найти необходимый им курс. Предлагается создать модуль ''Оплёта'', который будет автоматически записывать учеников, причём не только в [[Брацка Учебка|Брацкой Учебке]], но и на кампусе [[VIT]].
 +
 
 +
===Защита от ботов===
 +
:Для защиты от "ботов", то есть веб-роботов, вначале была установлена Google-овская ReCAPTCHA, однако она не работала для пользователей в Китае, где услуги Google заблокированы, и потому была отключена. Планируется добавить простую, не-Google-овскую [[Friendly Captcha]] на регистрацию (https://friendlycaptcha.com/; https://github.com/FriendlyCaptcha).
 +
 
 +
:В то же время, любая CAPTCHA ухудшает пользовательский опыт. Говорят, что лучшая CAPTCHA -- это её отсутствие. CAPTCHA не будет нужна, когда в [[#Управление пользователями|Управление пользователями]] будет добавлена функция автоматического удаления учётных записей. [[Negative Captcha]] (https://github.com/subwindow/negative-captcha) -- ещё один интересный проект для опробования.
 +
 
 +
===Идентификационные самоуслуги===
 +
:Из-за проблем с [[#Почтовый сервер|почтовым сервером]], в настоящее время не работает восстановление пароля, которое необходимо воссоздать и протестировать после решения проблем с почтой.
 +
 
 +
===Интерфейс===
 +
:''Оплёт'' нуждается в новом пользовательском интерфейсе, включая приёмную и регистрационную страницы, а также кабинет пользователя.
 +
 
 +
===Компоненты===
 +
:''Оплёт'' состоит из:
 +
:#Ядра, который представляет собою систему управления пользователями, написанную на [[Yii]],
 +
:#Идентификационного сервера, который предоставляет данные ядра всем пользовательским приложениям,
 +
:#Дополнительных модулей, обслуживающих [[#Запись на курсы|запись на курсы]] и [[#Организация мероприятий|организацию мероприятий]], а также предоставляющих [[#Экзаменационные вопросы|экзаменационные вопросы]].
 +
 
 +
===Определение ролей===
 +
:По завершению определённых курсов [[Брацка Учебка]] должна отдавать информацию [[Оплёт]]у, тот должен назначать новую роль и отдавать эту роль в [[WSO2 Identity Server]], а [[WSO2 Identity Server]] -- распространять по всем приложениям. Ранее эту проблему пытались решать с [[OpenLDAP]]. Всё решалось пока не сломались на проблеме изменения ролей -- [[OpenLDAP]] принимал только одну роль и далее не менял её.
 +
 
 +
===Организация мероприятий===
 +
:Несколько приложений имеют свои функционалы по организации мероприятий (event) -- [[Брацка Учебка]] имеет календарь упражнений и экзаменов, [[Брацка Сетка]] предоставляет возможность организации мероприятий группы, [[Брацка Крынка]] организует календарь необходимых к выполнению работ и так далее. Некоторые мероприятия также должны публиковаться за пределами ''Облака'', на страницах социальных сетей типа [[Фейсбук]]а. Для централизации нескольких календарей, планировалось создание специального модуля ''Оплёта'', где можно бы было отслеживать информацию из разных источников и размещать её в личном кабинете пользователя.
 +
 
 +
===Почтовые ящики===
 +
:Почтовые ящики работают на основе [[#Почтовый сервер|Почтового сервера]]. Две проблемы требуют решений:
 +
:#В профиль пользователя необходимо добавить поля для корпоративных имейлов. Сейчас почту автоматически может получить только тот, кто не указал своего электронного адреса при создании почты.
 +
:#Доступ к персональному ящику должны получать только пользователи с правами [[CertFellow]] и выше.
 +
 
 +
===Управление пользователями===
 +
:Заведение новых учётных записей и удаление тех записей, которые в течение 6-ти месяцев не завершили ни одного курса.
 +
 
 +
===Федерационная идентификация===
 +
:Пользовательская федерация налаживается на базе [[WSO2 Identity Server]]. До лета 2021, она строилась на [[OpenLDAP]], а до 2018 года -- на [[SimpleSAMLphp]]. Планируется:
 +
:#Перевести основную идентификацию и авторизацию с [[OpenLDAP]] на [[WSO2 Identity Server]] в рамках проекта [[Перевод Оплёта на WSO2 IS]].
 +
:#В тех приложениях, которые работают с [[OpenLDAP]], на регистрационных страницах оставить кнопку "[[LDAP login]]". Альтернативно, эту кнопку можно разместить на регистрационной странице [[WSO2 IS]].
 +
:#Проверка [[SSO]]. Более 3х десятков пользовательских приложений включено в "Облако" и, заходя в каждое из них, сейчас пользователь не должен логиниться отдельно. Теоретически, [[SSO]] -- это родная функция [[WSO2 Identity Server]], но, после перехода с [[OpenLDAP]] на [[WSO2 Identity Server]], каждое приложение должно проверяться.
  
−
===Дополнительные цели===
+
===Экзаменационные вопросы===
−
:Кроме того, ''Облако'' может быть полезно:
+
:В настоящее время, [[Брацка Учебка]] позволяет загрузить экзаменационные вопросы в корневую директорию, откуда их могут задействовать отдельные курсы. Однако централизованная статистика по этим вопросам отсутствует. Например, ученик может получать один и тот же вопрос в разных курсах. Кроме того, требуется использование отдельных вопросов в других приложениях, таких как [[Брацка Вебка]], и этот функционал также отсутствует.
−
:*тем выпускникам, которые решат организовать или продвинуть свои собственные предприятия,
 
−
:*тем предприятиям, которые нанимают кадры найденные, подготовленные и/или сертифицированные с использованием ''Облака''.
 
  
−
===Общие требования===
+
:Далее, [[Брацка Учебка]] активно использует элемент "Лекция", но не похоже, что этот элемент не сохраняет ответы учеников. Однако некоторые из ответов в лекциях необходимы для сохранения в качестве полей профиля. [[Moodle]] содержит пару плагинов для лекций, но не ясно решают ли эти плагины проблему сохранения ответов.
−
:''Основная вики-страница: [[Требования к приложениям Брацкого Облака]]''
 
  
−
:Требования к приложениям описаны на вики-странице [[Требования к приложениям Брацкого Облака]].
+
:Планируется унифицировать тесты по всей платформе с помощью нового модуля ''Оплёта''.
  
−
==Обзор обеспечения==
+
===Обеспечение Оплёта (сводка)===
−
''Облако'' включает в себя три яруса программного обеспечения: [[Брацки Фермы|Инфраструктуру]], [[Оплёт|Связующее обеспечение]] и [[#Пользовательские приложения|Пользовательские приложения]]. В сети Интернет, приложения для пользователей размещены на различных [[URL]] при том, что на каждом из [[URL]] различные сервисы планируется сделать доступными под различными поддоменами по принципу [поддомен].[домен].[расширение].
+
:{|class="wikitable" width=100%
−
{|class="wikitable" width=100%
 
 
|style="text-align:center;"|Ярус
 
|style="text-align:center;"|Ярус
 
!Название!!Предназначение!!Технология!![[Веб-адрес|Веб&#8209;адрес]]
 
!Название!!Предназначение!!Технология!![[Веб-адрес|Веб&#8209;адрес]]
 
|-
 
|-
−
![[Брацки Фермы|Инфраструктура]]
+
!rowspan="2"|[[Оплёт|Связующее обеспечение]] ([[Оплёт]])
−
|[[Брацки Фермы|Фермы]]||Поддержка [[Оплёт|Связующего обеспечения]] и [[#Пользовательские приложения|Пользовательских приложений]]||[[OpenStack]]||colspan="2"|Спрятан
+
|Идентификация||Получение данных от ядра и взаимосвязь с пользовательскими приложениями||[[WSO2 IS]]
 
|-
 
|-
−
!rowspan="2"|[[Оплёт|Связующее обеспечение]]
+
|Ядро и пользовательский интерфейс||Управление регистрацией, идентификацией и авторизацией доступов пользователей||[[Yii]]&nbsp;(custom&nbsp;code)
−
|[[Оплёт]] (ядро)||Управление регистрацией, идентификацией и авторизацией доступов пользователей||[[Yii]]&nbsp;(custom&nbsp;code)
 
 
|[https://kabina.bskol.com '''kabina'''.bskol.com]
 
|[https://kabina.bskol.com '''kabina'''.bskol.com]
−
|-
+
|}
−
|Идентификация||Получение данных от ядра и взаимосвязь с пользовательскими приложениями||[[WSO2 IS]]||Спрятан
+
 
 +
==Пользовательские приложения==
 +
:Пользовательские приложения -- это приложения для конечных пользователей.
 +
 
 +
===Типы приложений===
 +
:''Облако'' предоставляет три типа приложений:
 +
:#Полные приложения, то есть те, которые используются по тому основному назначению, для которого они были созданы,
 +
:#Тренировочные приложения, то есть те, которые используются для отработки практических навыков работы с ними, и
 +
:#Эксперементальные приложения, то есть те, которые используются
 +
 
 +
===Требования к приложениям===
 +
:''Основная вики-страница: [[Требования к приложениям Брацкого Облака]]''
 +
 
 +
:Требования к приложениям описаны на вики-странице [[Требования к приложениям Брацкого Облака]].
 +
 
 +
===Обеспечение прилад (сводка)===
 +
:{|class="wikitable" width=100%
 +
|style="text-align:center;"|Ярус
 +
!Название!!Предназначение!!Технология!![[Веб-адрес|Веб&#8209;адрес]]
 
|-
 
|-
 
!rowspan="10"|[[#Пользовательские приложения|Пользовательские приложения]]
 
!rowspan="10"|[[#Пользовательские приложения|Пользовательские приложения]]
Строка 38: Строка 161:
 
|[https://backa.bskol.com '''backa'''.bskol.com]
 
|[https://backa.bskol.com '''backa'''.bskol.com]
 
|-
 
|-
−
|[[Брацка Вебка|Вебка]]||Администрация вэб-сайтов||[[WordPress]]
+
|[[Брацка Вебка|Вебка]]||Администрация веб-страниц||[[WordPress]]
 
|[https://vebka.bskol.com '''vebka'''.bskol.com]
 
|[https://vebka.bskol.com '''vebka'''.bskol.com]
 
|-
 
|-
Строка 50: Строка 173:
 
|[https://posta.bskol.com '''posta'''.bskol.com]
 
|[https://posta.bskol.com '''posta'''.bskol.com]
 
|-
 
|-
−
|[[Брацка Правка|Правка]]||Открытый источник знаний и, одновременно, работа для новичков||[[MediaWiki]]
+
|[[Брацка Правка|Правка]]||Открытый источник знаний и, одновременно, место первоначальной работы подмастерьев||[[MediaWiki]]
 
|[https://pravka.bskol.com '''pravka'''.bskol.com]
 
|[https://pravka.bskol.com '''pravka'''.bskol.com]
 
|-
 
|-
Строка 69: Строка 192:
 
|-
 
|-
 
!rowspan="4"|[[#Эксперементальные приложения|Эксперементальные приложения]]
 
!rowspan="4"|[[#Эксперементальные приложения|Эксперементальные приложения]]
−
|Campus||Учебные курсы VIT||[[OpenEdX]]
+
|Campus||Учебные курсы [[Вирджинский Технологический Институт|VIT]]||[[OpenEdX]]
 
|[https://campus.vit4all.com campus.vit4all.com]
 
|[https://campus.vit4all.com campus.vit4all.com]
 
|-
 
|-
−
|Agile||Практика для VIT курсов по Agile software||[[Taiga software|Taiga]]
+
|Agile||Практика для [[Вирджинский Технологический Институт|VIT]] курсов по Agile software||[[Taiga software|Taiga]]
 
|[https://agile.vit4all.com agile.vit4all.com]
 
|[https://agile.vit4all.com agile.vit4all.com]
 
|-
 
|-
−
|Project||Практика для VIT курсов по project management software||[[ProjecQtOr]]
+
|Project||Практика для [[Вирджинский Технологический Институт|VIT]] курсов по project management software||[[ProjecQtOr]]
 
|[https://project.vit4all.com project.vit4all.com]
 
|[https://project.vit4all.com project.vit4all.com]
 
|-
 
|-
−
|Redmine||Практика в Redmine для VIT курсов по project management software||[[Redmine]]
+
|Redmine||Практика в Redmine для [[Вирджинский Технологический Институт|VIT]] курсов по project management software||[[Redmine]]
−
|[https://redmine.vit4all.com redmine.vit4all.com]
+
|[https://redmine.bskol.com redmine.bskol.com]
 
|}
 
|}
  
−
===Брацки Фермы (инфраструктура)===
+
==Полные приложения==
−
:''Основная вики-страница: [[Брацки Фермы]]''
+
В сети Интернет, полные приложения для пользователей размещены на различных [[URL]] при том, что на каждом из [[URL]] различные сервисы планируется сделать доступными под различными поддоменами по принципу [поддомен].[домен].[расширение].
 +
===Бачка (AVideo)===
 +
:''Основная вики-страница: [[Брацка Бачка]]''
  
−
:Архитектура облачной инфраструктуры не определена. Ранее использовался [[OpenStack]]. Скорее всего, когда работа ''Школы'' войдёт в привычный режим, инфраструктура должна состоять из некой комбинации частного и общественных облаков.
+
:[[Брацка Бачка]] -- это средство загрузки, хранения и просмотра видео-материалов. ''Видео'' построено на основе программного обеспечения [[AVideo]] (установлена версия 11.3). Часть курсов ''Бачки'', например, видео-материалы курса [[Брацки Техобзор]], может быть доступна без оплаты всем посетителям сети Интернет. Доступ к некоторым материалам может предоставляться на коммерческой основе.
  
−
:В настоящее время, используется пять виртуальных частных серверов ([[virtual private server; VPS]]):
+
===Вебка (WordPress)===
−
:#Три арендованы у [[Contabo]]; два сервера и отдельное дисковое пространство для резервных копий располагаются в Миссури, США, один -- в Германии;
+
:''Основная вики-страница: [[Брацка Вебка]]''
−
:#Два арендованы у [[DigitalOcean]]; один располагается в Нью-Йорке, США, один -- во Франции.
 
  
−
===Оплёт (федеративная служба)===
+
:[[Брацка Вебка]] -- это официальный веб-сайт [[Брацка Школа|Брацкой Школы]], который представляет ''Школу'' в сети Интернет. Вэб-сайт построен на основе программного обеспечения [[WordPress]] и доступен для просмотра бесплатно 24 часа в день 7 дней в неделю любому посетителю сети Интернет.
−
:''Основная вики-страница: [[Оплёт]]''
 
  
−
:То служебное программное обеспечение, которое собирает и [[Брацки Фермы|Инфраструктуру]] ''Облака'', и его [[#Пользовательские приложения|Пользовательские приложения]] в единую систему, называется [[Оплёт]] ([[Opplet]]). Оно представляет собой связующее программное обеспечение, которое может обеспечивать все  вне зависимости от их расположения в системе, прежде всего, услугами по идентификации всех пользователей ''Облака'', регистрации новых пользователей, определение ролей пользователей, авторизации их доступов и так далее.
+
:Для разработки веб-сайта используется конструктор страниц [[Elementor Pro]]. При обновлении версии [[WordPress]] до 5.8 содержание страницы не отображалось.
  
−
==Данные в Облаке==
+
===Жици (Jitsi)===
 +
:''Основная вики-страница: [[Брацки Жици]]''
  
−
===Стойкость систем===
+
:[[Брацки Жици]] -- это инструмент [[Брацка Школа|Брацкой Школы]] для организации видео- и аудио-конференций. ''Жици'' построены на основе программного обеспечения [[Jitsi]] и организованы [[#Кластер Жици|кластером]]. ''Жици'' доступны для любых участников конференций, но начинать сессии могут только те, кто зарегистрирован в [[Оплёт]]е.
−
:Следующая архитектура используется для обеспечения отказоустойчивости (high availability) ''Облака'':
 
−
:*Все пользовательские приложения дублируются -- копии каждого из них установлены как минимум на трёх вычислительных серверах в разных центрах.
 
−
:*Базы данных разных установок одного и того же приложения синхранизуются. Таким образом, обращаясь к любому из них, пользователь получает аналогичные данные и результаты вычислений.
 
−
:*Когда пользователь хочет обратиться к приложению, пользователь направляется на распределитель нагрузки (load balancer). Распределитель нагрузки постоянно связывается со всеми установками приложений, чтобы знать, какие из них находятся в наличии. От распределителя нагрузки, пользователь перенаправляется к той установке, которая работоспособна и доступнее для конкретного пользователя. Если какая-то из установок выходит из строя, пользователь этого не должен заметить. Как только распределитель нагрузки замечает отсутствие какого-либо ресурса, он запускает механизм отладки.
 
  
−
===Базы данных===
+
===Крынка (GitLab)===
−
:#Наибольшая часть пользовательских приложений использует базы управления данными на основе [[MariaDB Server]]. Администраторское приложение [[PhpMyAdmin]] используется для администрирования каждого из них.
+
:''Основная вики-страница: [[Брацка Крынка]]''
−
:#Для управления пользователями, [[Оплёт]] также использует [[MariaDB Server]]. Однако та часть [[Оплёт]]а, которая работает с другими приложениями и построена на базе сервера [[WSO2 IS]], задействует три базы [[H2 DBMS]].
 
−
:#Базы управления данными на основе [[PostgreSQL]] вовлечены в работу [[Брацка Справа|Брацкой Справы]].
 
  
−
===Данные в кластерах===
+
:[[Брацка Крынка]] -- это средство для работы над проектами, построенное на основе программного обеспечения [[GitLab]] и доступное исключительно администраторам [[Брацка Школа|Брацкой Школы]] и авторизованным ими разработчикам программного обеспечения. Доступ к ''Крынке'' осуществляется исключительно по [[PKI]].
−
:{|class="wikitable" width=100% style="text-align:center;"
 
−
|Ярус
 
−
!Название!!Основное ПО!!ПО базы данных!!Кластер
 
−
|-
 
−
![[Брацки Фермы|Инфраструктура]]
 
−
|[[Брацки Фермы|Фермы]]||[[OpenStack]]||colspan="2"|Все остальные
 
−
|-
 
−
!rowspan="2"|[[Оплёт|Связующее обеспечение]]
 
−
|[[Оплёт]] (ядро)||[[Yii]]||[[MariaDB Server]]||rowspan="2"|[[Федерационный кластер|Федерационный]]
 
−
|-
 
−
|Идентификация||[[WSO2 IS]]||[[H2 DBMS]]
 
−
|-
 
−
!rowspan="10"|[[#Пользовательские приложения|Пользовательские приложения]]
 
−
|[[Брацка Бачка|Бачка]]||[[AVideo]]||rowspan="2"|[[MariaDB Server]]||rowspan="2"|[[Массовый кластер|Массовый]]
 
−
|-
 
−
|[[Брацка Вебка|Вебка]]||[[WordPress]]
 
−
|-
 
−
|[[Брацки Жици|Жици]]|||[[Jitsi]]||Отсутствует||[[Конференционный кластер|Конференционный]]
 
−
|-
 
−
|[[Брацка Крынка|Крынка]]||[[GitLab]]
 
−
|-
 
−
|[[Брацка Пошта|Пошта]]||[[Roundcube]]
 
−
|-
 
−
|[[Брацка Правка|Правка]]||[[MediaWiki]]||rowspan="3"|[[MariaDB Server]]||rowspan="3"|[[Массовый кластер|Массовый]]
 
−
|-
 
−
|[[Брацка Связка|Связка]]||[[SuiteCRM]]
 
−
|-
 
−
|[[Брацка Сетка|Сетка]]||[[HumHub]]
 
−
|-
 
−
|[[Брацка Справа|Справа]]||[[Odoo]]||[[PostgreSQL]]||[[Бизнес-кластер|Бизнес]]
 
−
|-
 
−
|[[Брацка Учебка|Учебка]]||[[Moodle]]||[[MariaDB Server]]||[[Массовый кластер|Массовый]]
 
−
|-
 
−
|&nbsp;
 
−
!colspan="4"|Арендованное обеспечение
 
−
|-
 
−
!rowspan="4"|[[#Эксперементальные приложения|Эксперементальные приложения]]
 
−
|Campus||[[OpenEdX]]
 
−
|-
 
−
|Agile||[[Taiga software]]
 
−
|-
 
−
|Project||[[ProjecQtOr]]
 
−
|}
 
  
−
==Кластеры==
+
===Пошта (RoundCube)===
−
Связка баз данных приложений с распределителем нагрузки называется кластером. Облако задействует четыре кластера: массовый, на основе [[MariaDB Cluster]], кластер Жици, а также два кластера, построенных на [[HAProxy]], бизнес-кластер и кластер федерационный. Федерационный кластер обеспечивает устойчивость [[Оплёт]]а и распределителей нагрузки остальных кластеров.
+
:''Основная вики-страница: [[Брацка Пошта]]''
  
−
===Бизнес-кластер===
+
:[[Брацка Пошта]] -- это электронная почта, построенная на основе [[#Почтовый сервер|Почтового сервера]] и доступная исключительно выпускникам семинара [[Выбор Профессии]].
−
:''Основная вики-страница: [[Бизнес-кластер]]''
 
  
−
===Конференционный кластер===
+
===Правка (MediaWiki)===
−
:''Основная вики-страница: [[Конференционный кластер]]''
+
:''Основная вики-страница: [[Брацка Правка]]''
  
−
===Массовый кластер===
+
:[[Брацка Правка]] -- это открытая база знаний Брацкой Школы, построенная на основе программного обеспечения [[MediaWiki]] и доступная для просмотра бесплатно 24 часа в день 7 дней в неделю любому посетителю сети Интернет. Вопрос подключения последних стабильных версий к [[OpenLDAP]] не был разрешён, потому установлена устаревшая версия 1.31.1
−
:''Основная вики-страница: [[Массовый кластер]]''
 
  
−
===Федерационный кластер===
+
===Разделка===
−
:''Основная вики-страница: [[Федерационный кластер]]''
+
:Эта прилада -- перспективная. Её идея -- предоставить подмастерьям нечто типа [[Microsoft Office]] или [[GoogleDocs]]. В данный момент, установлен [[Nextcloud]]. Тут можно делиться файлами: по ссылке, или с конкретным пользователем. Ссылке можно задавать срок действия. Работают почтовые уведомления. Есть разные приложения, календарь, задачи, и т.д.
  
−
==Пользовательские приложения==
+
===Связка (SuiteCRM)===
−
Пользовательские приложения -- это приложения для конечных пользователей.
+
:''Основная вики-страница: [[Брацка Связка]]''
  
−
===Бачка===
+
===Сетка (HumHub)===
−
::''Основная вики-страница: [[Брацка Бачка]]''
+
:''Основная вики-страница: [[Брацка Сетка]]''
  
−
:[[Брацка Бачка]] -- это средство загрузки, хранения и просмотра видео-материалов. ''Видео'' построено на основе программного обеспечения [[AVideo]]. Часть курсов ''Бачки'', например, видео-материалы курса [[Брацки Техобзор]], может быть доступна без оплаты всем посетителям сети Интернет. Доступ к некоторым материалам может предоставляться на коммерческой основе.
+
:[[Брацка Сетка]] -- это корпоративная социальная сеть. ''Сетка'' построена на основе программного обеспечения [[HumHub]] (установлена версия 1.9.1).
  
−
===Вебка===
+
===Справа (Odoo)===
−
::''Основная вики-страница: [[Брацка Вебка]]''
+
:''Основная вики-страница: [[Брацка Справа]]''
  
−
:[[Брацка Вебка]] -- это сеть вэб-сайтов [[Брацка Школа|Брацкой Школы]], которые представляют ''Школу'' в сети Интернет. Вэб-сайты построены на основе программного обеспечения [[WordPress]] и доступны для просмотра бесплатно 24 часа в день 7 дней в неделю любому посетителю сети Интернет.
+
:[[Брацка Справа]] -- это средство управления людскими и материальными ресурсами предприятия, построенное на основе программного обеспечения [[Odoo]]. Часть ''Справы'', например, открытые документы предприятия, может быть доступна всем посетителям сети Интернет. Другая часть, например, данные клиентов предприятия, доступна исключительно тем сотрудникам [[Брацка Школа|Брацкой Школы]], которые подписали соглашение о неразглашении конфиденциальной информации.
−
 
 
−
===Жици===
 
−
::''Основная вики-страница: [[Брацки Жици]]''
 
−
 
 
−
:[[Брацки Жици]] -- это инструмент [[Брацка Школа|Брацкой Школы]] для организации видео- и аудио-конференций. ''Жици'' построена на основе программного обеспечения [[Jitsi]]. ''Жици'' доступны для любых участников конференций, но начинать сессии могут только те, кто зарегистрирован в [[Оплёт]]е.
 
−
 
 
−
===Крынка===
 
−
::''Основная вики-страница: [[Брацка Крынка]]''
 
−
 
 
−
:[[Брацка  Крынка]] -- это средство для работы над проектами, построенное на основе программного обеспечения [[GitLab]] и доступное исключительно администраторам [[Брацка Школа|Брацкой Школы]] и авторизованным ими разработчикам программного обеспечения. Доступ к ''Крынке'' осуществляется исключительно по [[PKI]].
 
−
 
 
−
===Пошта===
 
−
::''Основная вики-страница: [[Брацка Пошта]]''
 
−
 
 
−
:[[Брацка Пошта]] -- это электронная почта, построенная на основе программного обеспечения [[RoundCube]] и доступная исключительно сотрудникам [[Брацка Школа|Брацкой Школы]].
 
  
−
===Правка===
+
===Учебка (Moodle)===
−
::''Основная вики-страница: [[Брацка Правка]]''
+
:''Основная вики-страница: [[Брацка Учебка]]''
  
−
:[[Брацка Правка]] -- это открытая база знаний Брацкой Школы, построенная на основе программного обеспечения [[MediaWiki]] и доступная для просмотра бесплатно 24 часа в день 7 дней в неделю любому посетителю сети Интернет.
+
:[[Брацка Учебка]] -- это средство организации учебных курсов и сертификационных программ, построенное на основе программного обеспечения [[Moodle]] (установлена версия  3.11.2.). Часть курсов ''Учебки'', например, [[Брацка Вводка]], может быть доступна без оплаты всем посетителям сети Интернет. Доступ к некоторым курсам может предоставляться на коммерческой основе.
  
−
===Связка===
+
==Опытные приложения==
−
::''Основная вики-страница: [[Брацка Связка]]''
 
  
−
===Сетка===
+
===OpenEdX===
−
::''Основная вики-страница: [[Брацка Сетка]]''
+
:[[Вирджинский Технологический Институт]] использует [[OpenEdX]], а не [[Moodle]], для своих курсов. Отдельные пользователи ''Облака'' допускаются к этим курсам.
  
−
===Справа===
+
===ProjecQtOr===
−
::''Основная вики-страница: [[Брацка Справа]]''
+
:[[Вирджинский Технологический Институт]] использует [[ProjeQtOr]] в практических занятиях с обеспечением для управления плановыми разработками. Отдельные пользователи ''Облака'' допускаются к этим занятиям.
  
−
:[[Брацка Справа]] -- это средство управления людскими и материальными ресурсами предприятия, построенное на основе программного обеспечения [[Odoo]]. Часть ''Справы'', например, открытые документы предприятия, может быть доступна всем посетителям сети Интернет. Другая часть, например, данные клиентов предприятия, доступна исключительно тем сотрудникам [[Брацка Школа|Брацкой Школы]], которые подписали соглашение о неразглашении конфиденциальной информации.
+
===Redmine===
 +
:[[Redmine]] исторически использовался в [[Брацка Крынка|Брацкой Крынке]]. Сейчас он должен стать приложением для экспериментов с программным обеспечением управления разработками.
  
−
===Учебка===
+
===Taiga===
−
::''Основная вики-страница: [[Брацка Учебка]]''
+
:[[Вирджинский Технологический Институт]] использует [[Taiga software]] в практических занятиях с обеспечением для управления гибкими разработками. Отдельные пользователи ''Облака'' допускаются к этим занятиям.
  
−
:[[Брацка Учебка]] -- это средство организации учебных курсов и сертификационных программ, построенное на основе программного обеспечения [[Moodle]]. Часть курсов ''Учебки'', например, [[Брацка Вводка]], может быть доступна без оплаты всем посетителям сети Интернет. Доступ к некоторым курсам может предоставляться на коммерческой основе.
+
==Поддержка и развитие==
  
−
==Развитие ресурсов==
+
===Общая стратегия===
−
Общая стратегия:
+
#Поддерживать те технологические ресурсы, которые имеются в наличии, для чего заключить договор на обслуживание каждого ресурса.
−
#Поддерживать те технологические ресурсы, которые имеются в наличии.
 
 
#Набирать координаторов проектов для разработки запросов и требований.
 
#Набирать координаторов проектов для разработки запросов и требований.
 
#Искать исполнителей на те [[Работа в Брацкой Школе|Работы в Брацкой Школе]], которые относятся к технологическим ресурсам.
 
#Искать исполнителей на те [[Работа в Брацкой Школе|Работы в Брацкой Школе]], которые относятся к технологическим ресурсам.
  
−
===Аварийное восстановление===
+
===Развитие===
−
:Надо создать инструкцию по восстановлению в случае аварии.
+
:''Основная вики-страница: [[Работы над Bskol]]''
−
 
 
−
===Виртуализация===
 
−
:Есть план либо заменить один [[VPS]] железом, либо добавить железный сервер на [[Hetzner|hetzner.de]] для решения двух задач:
 
−
:#Спроектировать сеть для повышения устойчивости системы.
 
−
:#Автоматически создавать виртуальные машины для участников тренингов. Школа будет устраивать тренинги и планирует выдавать ресурсы для практических занятий. После оплаты участником, участник должен получать имэйл со ссылкой на ресурс с логином и паролем. Идеально, ресурс должен быть виртуальной машиной. Если виртуальная машина не получается, можно продумать возможность решения на контейнерах. Специалист считает, что так как контейнер создаётся одной строкой, можно сделать скрипт под Линукс, который будет создавать контейнер из образа и добавлять к нему логин и пароль.
 
−
:[[ProxmoxVE]] -- основное решение, которое рассматривается. Специалист предлагает использовать роутер [[Microtik]], чтобы на proxy сделать два IP адреса, первый использовать для внутренних виртуалок, если они нормально работают, а второй загнать в bridge для внешних серверов и средствами Линукса типа firewall делить тот трафик, который приходит. Кроме того, на том же proxy можно поставить [[DHCP]] сервер для раздачи адресов машинам. Другой специалист считает, что безопасных [[DHCP]] серверов на рынке нет.
 
−
 
 
−
===Географическая доступность===
 
−
:Говоря о DNS, IP и DNSSEC, есть несколько доменных имён, но пока речь идёт о двух основных -- cnmcyber.com для англоязычных пользователей и bskol.com для русскоязычных:
 
−
:*Домены зарегистрированы на [[GoDaddy]]; [[nameserver]]s расположены там.
 
−
:*Система управления пользователями, [[Оплёт]], сейчас расположена на одном [[VPS]] (они зовут их "дроплетами") [[DigitalOcean]]. Есть план добавить [[load balancer]] и перевести систему на кластер. Планов уезжать с [[DigitalOcean]] нет.
 
−
:*Основные пользовательские приложения расположены на трёх [[VPS]] [[Contabo|contabo.de]]. [[VPS]] объединены в кластер синхронизированной распределённой базой. Есть план добавить или заменить один [[VPS]] железом на [[Hetzner|hetzner.de]] с установкой [[proxmox]].
 
−
:Надо:
 
−
:#проверить существующие и создать нехватающие [[DNS]] и, возможно, новые [[DNSSEC]] записи. [[DNSSEC]] не является критичной -- может быть отлажено только для какой-то части зон [[DNS]]. Проект ''Школы'' -- учебный, нам важно иметь разные вещи для того, чтобы показывать ученикам.
 
−
:#изучить возможность [[Dynamic DNS]] ([[DDNS]]) или виртуальных [[DNS]].
 
−
:#[[IPv6]]. В данный момент используется [[IPv4]] и есть план разобраться с более новым протоколом. Судя по некоторым публикациям, [[IPv6]] решит проблему отказоустойчивости в части перенаправления трафика.
 
−
:#[[Virtual IP address]]. Есть необходимость разобраться с виртуальными адресами. [[Digitalocean]] предлагает [[floating IP address]], который можно устанавливать на те дроплеты ([[VPS]]), которые расположены в одном датацентре. [[Hetzner|Hetzner.de]] предлагает [[failover IP]], хотя с ними надо разобраться. Не похоже, что [[Contabo]] предлагает что-то вроде этого.
 
−
:#В случае, если виртуальный IP не возможен, есть практика направления IP на [[load balancer]] -- какие плюсы и минусы у этой практики?
 
−
:#Есть предложение, чтобы пользователь работал с тем приложением, которое более доступно для этого пользователя. [[DNS Anycast]], [[DNS Geocast]], и аналогичные распределительные системы не установлены -- каждое пользовательское приложение установлено только на одном [[VPS]]. Есть план продублировать приложения и отправлять пользователя на тот сервер, который наиболее доступен конкретному пользователю.
 
−
 
 
−
===Интеграция данных===
 
−
:#Сейчас, база каждого пользовательского приложения установлена на трёх нодах и синхронизована через [[#Кластерное копирование|Кластерное копирование]]. Есть план сделать одну распределённую базу и интегрировать её в Оплёт с тем, чтобы базы приложений забирали данные оттуда. В качестве интеграционного решения серъёзно рассматривается [[WSO2 Enterprise Integrator]]. Этот интегратор работает и как [[ESB]], и платформа для микросервисов. В качестве распределонной базы один специалист рекоммендовал [[NoSQL]] -- [[Apache Cassandra]]. Другой вариант -- распределённую [[SQL]] типа [[CockroachDB]].
 
−
:#Наиболее приоритетная задача -- создать архитектуру базы клиентов. Сейчас клиенты учитываются в нескольких независимых приложениях. Они имеют [[CRM]] модули, которые призваны учитывать работу с клиентами, которые могут является, но скорее всего не являются пользователями. Надо создать базу, в которую каждое приложение заливало новые данные и брало старые. Предложение заключалось в общей master базе, информация в которую может вбиваться с любого приложения, но отображаться в зависимости от её публичности.
 
−
:#Есть также предложение создать собирать данные с различных приложений и хранить их в [[NoSQL]] базе. Ранее обсуждалась единая неосновная база данных для всей системы. Разговор шёл о комбинации [[Hadoop]], [[ESB Mule]] и [[MongoDB]]. Идея была в сборе данных с разных приложений через [[ESB Mule]], причёсывание их [[Hadoop]]'ом и размещение в [[MongoDB]] как дополнительной базе данных, откуда они могут браться для для личного кабинета ([[dashboard]]) пользователя. То есть, заходя в кабинет, пользователь мог бы в идеале видеть свою активность в разных приложениях и искать по всем системам сразу.
 
−
:#Надо стабилизировать загрузку, хранение и использование картинок на [[MediaWiki]]. Сейчас они спорадически не загружаются или не отображаются. Например, 7 декабря картинки выбились, перестав отображаться. После клика на редактирование и сохранение, картинки появлялись -- этот сценарий повторялся на нескольких страницах. Затем всё само восстановилось. Аналогичные сбои происходили и раньше. Сама Википедия использует другую схему. Мы рассматриваем перенос картинок в хранилище.
 
−
 
 
−
===Кластер на MariaDB===
 
−
:''Основная вики-страница: [[MariaDB в Облаке]]
 
−
 
 
−
:Кластер MariaDB решает проблему устойчивости основной части пользовательских приложений. Ранее, если одно приложение, использующее базу данных [[MariaDB]] падало, за ним следовали все остальные.
 
−
 
 
−
:Основная часть пользовательских приложений использует [[MariaDB Server]]'a, которые сейчас объединены в один [[MariaDB Galera Cluster]] (установленная версия -- 26.4.6). В ''Облаке'', этот кластер называется массовым.
 
−
 
 
−
:Пользователи работают с приложениями, которые установлены на трёх различных серверах [[Contabo]] (два -- в штатах, один -- в Германии).  Сервера поддерживают синхранизованные базы, которые обновляют друг друга. Три сервера [[MariaDB]] синхранизовано копируются друг на друга, скорее всего, при поддержке инсталляции [[InnoDB]].
 
  
−
:В настоящее время, если один сервер падает, то его пользовательские приложения не доступны. То есть, не решена проблема [[load balancer]]; предпринимается попытка использовать [[MariaDB MaxScale]]. Также будут рассмотрены для использования [[MariaDB Backup]] и [[MariaDB Replication]].
+
==Связанные лектио==
−
 
+
*[[Воссозданная Школа]]
−
===Мониторинг===
+
*[[Названия в Школе]]
−
===Postfix/Dovecot/Roundcube===
+
*[[Волонтёры и Партнёры]]
−
:Команда планирует поднять highload мультидоменный почтовый сервер. Компетенций существующей команды хватает для настроек поддоменов и веб-серверов, но не для выбора и подготовки к эксплуатации. Количество пользователей не определено -- все, кто имеет право на почту, должен её иметь. Проблемы с дисковыми пространствами будут решаться отдельно.
+
*[[Обустройство Школы]]
−
:Требуется:
+
*[[Оценки в Школе]]
−
:#Выбрать, установить, настроить, провести нагрузочное тестирование, отмониторить продакшн и откоректировать параметры такого решение для почты, которое бы дружило с нашим [[WSO2 IS]], через который идёт управление пользователями. Будет установлен пакет [[iRedMail]], который включает в себя [[Postfix]], [[Dovecot]], [[Roundcube]]. Когда ''Облако'' строилось на [[OpenLDAP]], был найден подрядчик, требования которого были: 1. Что бы у всех пользователей было заполнено поле mail 2. Новый пользователь vmail (пароль скажут после установки пакета iRedmail) 3. Поле для квоты. Также обсуждался безопасный тунель между сервером почты и сервером [[OpenLDAP]]. Найденный подрайдчик считал, что лучшее решение -- это использование [[VPN]], чтобы и [[OpenLDAP]], и [[Dovecot]] виртуально были бы в одной сети. Авторизация почтового сервера идёт через [[Dovecot]]. Другой специалист называл такое решение идиотским. После решения о переходе с [[OpenLDAP]] на [[WSO2 IS]] подрячиков не искали.
+
*[[Классы Школы]]
−
:#Задокументировать решения и настройки.
+
*[[Облако и Прилады]]
−
 
+
*[[Что Есть Облако]]
−
===Приложения для пользователей===
+
*[[Политика Приватности]]
−
:В существующую технологию включено много пользовательских приложений, упомянутых выше. Для всех, надо:
+
*[[Что Есть Крынка]]
−
:#Обновлять все приложения до последних стабильных версий и устанавливать свежие патчи, когда они появляются в наличии. Основное требование для любого приложения -- привязка к нашему [[WSO2 Identity Server]] ([[WSO2 IS]]). Дополнительное требование для любого приложения -- привязка к нашему [[OpenLDAP]].
+
*[[Системы Крынки]]
−
:#Документировать то, что у нас есть, и выявлять проблемы.
+
*[[Что Есть Тест]]
−
 
+
*[[Данные для Тестов]]
−
:Приоритетные проекты:
+
*[[Методы Тестировки]]
−
:#[[Перевод Оплёта на WSO2 IS]]
 
−
:#[[Устойчивость для Жици]]. Наиболее критическое приложение -- [[Брацки Жици]] на [[Jitsi]]. Эта видео-конференционная система пока установлена вместе с пользовательскими системами. Возможно, для него должен быть построен отдельный кластер, задействующий все имеющиеся в наличии сервера. Также обсуждается план увести её отдельно на [[CDN]] типа [[Cloudflare]] или глобальные облачные решения -- [[Microsoft Azure]] или [[AWS]] -- участники конференций могут находиться на разных континентах и требование к качеству особо высокое.
 
−
 
 
−
:Дополнительные проекты:
 
−
:#[[LDAP для Правки]]
 
−
:#[[CDN для Оплёта]]
 
−
:#[[Перевод Крынки на GitLab]]
 
−
 
 
−
:{|class="wikitable" width=100% style="text-align:center;"
 
−
|+Профинансированные проекты приложений
 
−
|Работы
 
−
![[Брацка Бачка|Бачка]]!![[Брацка Вебка|Вебка]]!![[Брацки Жици|Жици]]!![[Брацка Крынка|Крынка]]!![[Брацка Пошта|Пошта]]!![[Брацка Правка|Правка]]!![[Брацка Связка|Связка]]!![[Брацка Сетка|Сетка]]!![[Брацка Справа|Справа]]!![[Брацка Учебка|Учебка]]
 
−
|-
 
−
![[Запрос на разработку|Запрос]]
 
−
|Достаточно||Достаточно||Достаточно||Достаточно||Достаточно||Достаточно||Достаточно||Достаточно||Достаточно
 
−
|-
 
−
![[Требования к изделию|Требования]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Архитектура изделия|Архитектура]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Концептуальная модель|Модель]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Прототип изделия|Прототип]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Заказ на создание изделия|Заказ]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Производство нового изделия|Производство]]
 
−
|Наработки||Наработки||Наработки||&nbsp;||Наработки||Наработки||&nbsp;||&nbsp;||Наработки
 
−
|-
 
−
![[Конфигурация изделия|Конфигурация]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Усовершенствование изделия|Усовершенствование]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|}
 
−
 
 
−
===Проекты для Оплёта (Opplet)===
 
−
:[[Оплёт]] -- это система управления пользователями, написанная на [[Yii]] и использующая [[OpenLDAP]] для коммуникации со всеми пользовательскими приложениями. Надо:
 
−
:#Добиться изменения ролей по завершению курсов Учебки. Данные о завершении определённых курсов Учебки должны отдаваться в Оплёт, тот должен назначать новую роль в зависимости от завершённых курсов и отдавать сведения в [[WSO2 IS]].
 
−
:#Подготовиться к смене морды, когда её новый дизайн будет готов,
 
−
:#Настроить восстановление пароля,
 
−
:#Добавить CAPTCHA на регистрацию -- ранее была установлена Google-овская ReCAPTCHA, однако она не работала для пользователей в Китае, где услуги Google заблокированы, и потому была отключена.
 
−
:#Унифицировать тесты по всей платформе.
 
−
:#В Учебке (Moodle) активно используется элемент "Лекция", но не похоже, что этот элемент не сохраняет ответы учеников. Например, элемент "Тест" сохраняет абсолютно все ответы. Однако некоторые из ответов в лекциях необходимы для сохранения в качестве полей профиля. Мудл содержит пару плагинов для лекций, но не ясно решают ли эти плагины проблему сохранения ответов. Если существующие плагины не могут решить проблему, необходимо модернизировать родной плагин.
 
−
:#Управление пользователями осуществляется сейчас с дроплета ([[VPS]]) на [[DigitalOcean]] ([[DO]]). Другой дроплет поддерживает тестировку, но практически не используется. Надо переделать это решение на кластер. Сам [[DO]] предлагает [[load balancer]] и [[floating IP address]] -- эти решения требуют рассмотрения.
 
−
:{|class="wikitable" width=100% style="text-align:center;"
 
−
|+Профинансированные проекты Оплёта
 
−
|Работы
 
−
!Календарь!!Каптча!!Кластер!!Курсы!!Роли!!Тесты
 
−
|-
 
−
![[Запрос на разработку|Запрос]]
 
−
|Достаточно||Достаточно||Достаточно||Достаточно||Достаточно||
 
−
|-
 
−
![[Требования к изделию|Требования]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Архитектура изделия|Архитектура]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Концептуальная модель|Модель]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Прототип изделия|Прототип]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Заказ на создание изделия|Заказ]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Производство нового изделия|Производство]]
 
−
|Наработки||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Конфигурация изделия|Конфигурация]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|-
 
−
![[Усовершенствование изделия|Усовершенствование]]
 
−
|&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;||&nbsp;
 
−
|}
 
−
 
 
−
===Резервное копирование===
 
−
:В ''Облаке'', к резервному копированию применяется несколько подходов. Копируются приложения и сервера; сохраняются базы и делаются снимки.
 
−
:*Изначально использовался [[rsync]] для копирования файлов, еженедельно полный бэкап и ежедневно incremental бэкап заливались на backup space на [[Contabo]]. Была идея использовать [[rsnapshot]] для снимков, но эту идею пока не получилось реализовать.
 
−
:*Весной-летом 2021 года, начались эксперименты с [[Veeam Agent for Linux]], для которого был установлен [[VNC® Viewer]]. Это обеспечение позволило копировать полный сервер.
 
−
:Надо создать:
 
−
:#Подробное описание существующей системы.
 
−
:#Процедуру проверки надёжности бэкапов.
 
−
 
 
−
===Федерационная идентификация===
 
−
:Пользовательская федерация налаживается на базе [[WSO2 Identity Server]]. До лета 2021, она строилась на [[OpenLDAP]], а до 2018 года -- на [[SimpleSAMLphp]].
 
−
:#Перевести основную идентификацию и авторизацию с [[OpenLDAP]] на [[WSO2 Identity Server]] в рамках проекта [[Перевод Оплёта на WSO2 IS]].
 
−
:#В тех приложениях, которые работают с [[OpenLDAP]], на регистрационных страницах оставить кнопку "[[LDAP login]]". Альтернативно, эту кнопку можно разместить на регистрационной странице [[WSO2 IS]].
 
−
:#Разрешить проблему ролей. По окончании курса Учебка ([[Moodle]]) должна отдавать информацию Оплёту, тот должен назначать новую роль и отдавать эту роль в [[WSO2 Identity Server]], а [[WSO2 Identity Server]] -- распространять по всем приложениям. Ранее эту проблему пытались решать с [[OpenLDAP]]. Всё решалось пока не сломались на проблеме изменения ролей -- [[OpenLDAP]] принимал только одну роль и далее не менял её.
 
−
:#Проверка [[SSO]]. Более 3х десятков пользовательских приложений включено в "Облако" и, заходя в каждое из них, сейчас пользователь не должен логиниться отдельно. Теоретически, [[SSO]] -- это родная функция [[WSO2 Identity Server]], но, после перехода с [[OpenLDAP]] на [[WSO2 Identity Server]], каждое приложение должно проверяться.
 

Текущая версия на 13:03, 30 сентября 2022

Брацко Облако (CNM Cloud; иногда кодируемое как "bo", далее то тексту -- Облако) -- это технологические ресурсы обслуживающие онлайн операции Брацкой Школы (здесь и далее то тексту -- Школы). Облако представляет собой совокупность программного обеспечения и поддерживающей его материальной части.


Содержание

Цели и задачи

Цели

Облако предоставляет автоматически или поддерживает технологически тех людей, которые предоставляют услуги, имеющие целью:
  1. Профессионально сориентировать, поддерживая организацию обзорных семинаров, практик и консультаций для тех, кто определяется с профессией.
  2. Подготовить к профессиональной деятельности, обеспечивая учебный процесс, обучение на рабочем месте или сертификацию профессиональных компетенций для тех, кто нарабатывает профессиональные квалификации.
  3. Трудоустроить, предоставляя знания, инструменты, сертификации, доступ к контактам и маркетинговым каналам тем, кто:
    • Уже готов к профессиональной деятельности и ищет конкретную работу.
    • Нанимают найденные, подготовленные и/или сертифицированные с использованием Облака кадры.
  4. Поддержать трудоустроенных, оказывая административные услуги и консультации, а также финансируя предприятия тех выпускников, которые решили организовать или продвинуть свои собственные бизнесы.

Задачи

Облако решает задачи обеспечения потенциальных и существующих учеников Брацкой Школы и вовлечённых в проект Bskol площадкой для учёбы и работы, в частности, Облако обеспечивает:
  • Всех пользователей Всемирной Паутины -- гостевым доступом к общественным ресурсам Облака, включая Правку, Вебку, Бачку, Брацки Жици, Крынку
  • Зарегистрированных в Оплёте пользователей -- пользовательским доступом к Кабине
  • Учеников -- пользовательским доступом к Учебке, Правке, Вебке, Бачке, Жици, Сетке и административным доступом к тем Курсовым Приладам, которые они изучают.
  • Координаторов и подрядчиков -- пользовательским доступом к Крынке и административным доступом к тем Опытным Приладам, над которыми они работают.
  • Подмастерьев, мастеров и сотрудников -- пользовательским доступом к Связке, Поште, Справе и административным доступом к тем Полным Приладам, которые они обслуживают.
  • Участников коротких тренингов -- доступом к тем виртуальным ресурсам, которые созданы специально для этого тренинга. Школа будет устраивать тренинги и планирует выдавать ресурсы для практических занятий. После регистрации на тренинг, участник должен получать имэйл со ссылкой на ресурс с логином и паролем. Ресурс должен быть либо виртуальной машиной, либо контейнером. Специалист считает, что так как контейнер создаётся одной строкой, можно сделать скрипт под Линукс, который будет создавать контейнер из образа и добавлять к нему логин и пароль.

Общие положения

Облако имеет в наличии сотни приложений и множество систем, точное число которых постоянно изменяется. В этом разделе упомянуты только основные из большого разнообразия тех приложений и систем.

Технологические ярусы

Облако включает в себя три яруса программного обеспечения:
  1. Инфраструктуру называемую Брацки Фермы,
  2. Связующее обеспечение или федерационную службу называемую Оплётом, и
  3. Пользовательские приложения.

Поддержка программных языков

Облако поддерживает следующие языки:
  • PHP. Поддерживаются версии 7.4. и 8.0.9. Apache HTTP server определяет, какой язык будет использоваться через скрипты типа:

    <FilesMatch \.php$># From the Apache version 2.4.10 and above, use the SetHandler to run PHP as a fastCGI process server SetHandler "proxy:unix:/run/php/php7.4-fpm.sock|fcgi://localhost"</FilesMatch>

  • Python.

Брацки Фермы (инфраструктура)

Основная вики-страница: Брацки Фермы

Делова Ферма

Основная вики-страница: Делова Ферма

Опытна Ферма

Основная вики-страница: Опытна Ферма

Кампусна Ферма

Основная вики-страница: Кампусна Ферма

Обеспечение Ферм (сводка)

Инфраструктура (Фермы)
Компоненты Название Предназначение Технология Веб‑адрес
Делова Частное облако Поддержка Пользовательских приложений и Связующего обеспечения OpenStack Спрятан
Виртуальная среда Управление виртуальными машинами для Опытна Облака ProxmoxVE
Мониторинг Слежение за работой вычислительных серверов и сообщения о неполадках Nagios Core
Установщик Инструмент для установки, конфигурации и удаления пакетов программного обеспечения APT
Веб-сервер Первичное управление запросами поступающими по HTTP NGINX
Вторичное управление запросами поступающими по HTTP Apache
Опытна
Кампусна
Оплётна

Оплёт (федерационная служба)

Основная вики-страница: Оплёт

Оплёт -- это то служебное программное обеспечение, которое собирает и Инфраструктуру Облака, и его Пользовательские приложения в единую систему. Оплёт представляет собой связующее программное обеспечение, которое может обеспечивать все вне зависимости от их расположения в системе, прежде всего, услугами по идентификации всех пользователей Облака, регистрации новых пользователей, определение ролей пользователей, авторизации их доступов и так далее.

Запись на курсы

В настоящее время запись на курсы производится через Брацку Учебку, обычно, через самозапись. Самозапись создаёт неудобства для некоторых учеников -- перед записью, они должны найти необходимый им курс. Предлагается создать модуль Оплёта, который будет автоматически записывать учеников, причём не только в Брацкой Учебке, но и на кампусе VIT.

Защита от ботов

Для защиты от "ботов", то есть веб-роботов, вначале была установлена Google-овская ReCAPTCHA, однако она не работала для пользователей в Китае, где услуги Google заблокированы, и потому была отключена. Планируется добавить простую, не-Google-овскую Friendly Captcha на регистрацию (https://friendlycaptcha.com/; https://github.com/FriendlyCaptcha).
В то же время, любая CAPTCHA ухудшает пользовательский опыт. Говорят, что лучшая CAPTCHA -- это её отсутствие. CAPTCHA не будет нужна, когда в Управление пользователями будет добавлена функция автоматического удаления учётных записей. Negative Captcha (https://github.com/subwindow/negative-captcha) -- ещё один интересный проект для опробования.

Идентификационные самоуслуги

Из-за проблем с почтовым сервером, в настоящее время не работает восстановление пароля, которое необходимо воссоздать и протестировать после решения проблем с почтой.

Интерфейс

Оплёт нуждается в новом пользовательском интерфейсе, включая приёмную и регистрационную страницы, а также кабинет пользователя.

Компоненты

Оплёт состоит из:
  1. Ядра, который представляет собою систему управления пользователями, написанную на Yii,
  2. Идентификационного сервера, который предоставляет данные ядра всем пользовательским приложениям,
  3. Дополнительных модулей, обслуживающих запись на курсы и организацию мероприятий, а также предоставляющих экзаменационные вопросы.

Определение ролей

По завершению определённых курсов Брацка Учебка должна отдавать информацию Оплёту, тот должен назначать новую роль и отдавать эту роль в WSO2 Identity Server, а WSO2 Identity Server -- распространять по всем приложениям. Ранее эту проблему пытались решать с OpenLDAP. Всё решалось пока не сломались на проблеме изменения ролей -- OpenLDAP принимал только одну роль и далее не менял её.

Организация мероприятий

Несколько приложений имеют свои функционалы по организации мероприятий (event) -- Брацка Учебка имеет календарь упражнений и экзаменов, Брацка Сетка предоставляет возможность организации мероприятий группы, Брацка Крынка организует календарь необходимых к выполнению работ и так далее. Некоторые мероприятия также должны публиковаться за пределами Облака, на страницах социальных сетей типа Фейсбука. Для централизации нескольких календарей, планировалось создание специального модуля Оплёта, где можно бы было отслеживать информацию из разных источников и размещать её в личном кабинете пользователя.

Почтовые ящики

Почтовые ящики работают на основе Почтового сервера. Две проблемы требуют решений:
  1. В профиль пользователя необходимо добавить поля для корпоративных имейлов. Сейчас почту автоматически может получить только тот, кто не указал своего электронного адреса при создании почты.
  2. Доступ к персональному ящику должны получать только пользователи с правами CertFellow и выше.

Управление пользователями

Заведение новых учётных записей и удаление тех записей, которые в течение 6-ти месяцев не завершили ни одного курса.

Федерационная идентификация

Пользовательская федерация налаживается на базе WSO2 Identity Server. До лета 2021, она строилась на OpenLDAP, а до 2018 года -- на SimpleSAMLphp. Планируется:
  1. Перевести основную идентификацию и авторизацию с OpenLDAP на WSO2 Identity Server в рамках проекта Перевод Оплёта на WSO2 IS.
  2. В тех приложениях, которые работают с OpenLDAP, на регистрационных страницах оставить кнопку "LDAP login". Альтернативно, эту кнопку можно разместить на регистрационной странице WSO2 IS.
  3. Проверка SSO. Более 3х десятков пользовательских приложений включено в "Облако" и, заходя в каждое из них, сейчас пользователь не должен логиниться отдельно. Теоретически, SSO -- это родная функция WSO2 Identity Server, но, после перехода с OpenLDAP на WSO2 Identity Server, каждое приложение должно проверяться.

Экзаменационные вопросы

В настоящее время, Брацка Учебка позволяет загрузить экзаменационные вопросы в корневую директорию, откуда их могут задействовать отдельные курсы. Однако централизованная статистика по этим вопросам отсутствует. Например, ученик может получать один и тот же вопрос в разных курсах. Кроме того, требуется использование отдельных вопросов в других приложениях, таких как Брацка Вебка, и этот функционал также отсутствует.
Далее, Брацка Учебка активно использует элемент "Лекция", но не похоже, что этот элемент не сохраняет ответы учеников. Однако некоторые из ответов в лекциях необходимы для сохранения в качестве полей профиля. Moodle содержит пару плагинов для лекций, но не ясно решают ли эти плагины проблему сохранения ответов.
Планируется унифицировать тесты по всей платформе с помощью нового модуля Оплёта.

Обеспечение Оплёта (сводка)

Ярус Название Предназначение Технология Веб‑адрес
Связующее обеспечение (Оплёт) Идентификация Получение данных от ядра и взаимосвязь с пользовательскими приложениями WSO2 IS
Ядро и пользовательский интерфейс Управление регистрацией, идентификацией и авторизацией доступов пользователей Yii (custom code) kabina.bskol.com

Пользовательские приложения

Пользовательские приложения -- это приложения для конечных пользователей.

Типы приложений

Облако предоставляет три типа приложений:
  1. Полные приложения, то есть те, которые используются по тому основному назначению, для которого они были созданы,
  2. Тренировочные приложения, то есть те, которые используются для отработки практических навыков работы с ними, и
  3. Эксперементальные приложения, то есть те, которые используются

Требования к приложениям

Основная вики-страница: Требования к приложениям Брацкого Облака
Требования к приложениям описаны на вики-странице Требования к приложениям Брацкого Облака.

Обеспечение прилад (сводка)

Ярус Название Предназначение Технология Веб‑адрес
Пользовательские приложения Бачка Размещение видео файлов AVideo backa.bskol.com
Вебка Администрация веб-страниц WordPress vebka.bskol.com
Жици Организация видео- и аудио-конференций Jitsi jitsi.bskol.com
Крынка Работа разработчиков над проектами с установленным service desk приложением для сбора информации по проблемам и хранение исходных кодов уникального программного обеспечения GitLab krynka.bskol.com
Пошта Электронная почта Roundcube posta.bskol.com
Правка Открытый источник знаний и, одновременно, место первоначальной работы подмастерьев MediaWiki pravka.bskol.com
Связка Полезные контакты SuiteCRM svazka.bskol.com
Сетка Социальная сеть HumHub setka.bskol.com
Справа Административный учёт, электронная коммерция (Careerprise Shop) и работа персонала над проектами Odoo sprava.bskol.com
Учебка Бесплатные учебные курсы Moodle ucebka.bskol.com
  Арендованное обеспечение
Эксперементальные приложения Campus Учебные курсы VIT OpenEdX campus.vit4all.com
Agile Практика для VIT курсов по Agile software Taiga agile.vit4all.com
Project Практика для VIT курсов по project management software ProjecQtOr project.vit4all.com
Redmine Практика в Redmine для VIT курсов по project management software Redmine redmine.bskol.com

Полные приложения

В сети Интернет, полные приложения для пользователей размещены на различных URL при том, что на каждом из URL различные сервисы планируется сделать доступными под различными поддоменами по принципу [поддомен].[домен].[расширение].

Бачка (AVideo)

Основная вики-страница: Брацка Бачка
Брацка Бачка -- это средство загрузки, хранения и просмотра видео-материалов. Видео построено на основе программного обеспечения AVideo (установлена версия 11.3). Часть курсов Бачки, например, видео-материалы курса Брацки Техобзор, может быть доступна без оплаты всем посетителям сети Интернет. Доступ к некоторым материалам может предоставляться на коммерческой основе.

Вебка (WordPress)

Основная вики-страница: Брацка Вебка
Брацка Вебка -- это официальный веб-сайт Брацкой Школы, который представляет Школу в сети Интернет. Вэб-сайт построен на основе программного обеспечения WordPress и доступен для просмотра бесплатно 24 часа в день 7 дней в неделю любому посетителю сети Интернет.
Для разработки веб-сайта используется конструктор страниц Elementor Pro. При обновлении версии WordPress до 5.8 содержание страницы не отображалось.

Жици (Jitsi)

Основная вики-страница: Брацки Жици
Брацки Жици -- это инструмент Брацкой Школы для организации видео- и аудио-конференций. Жици построены на основе программного обеспечения Jitsi и организованы кластером. Жици доступны для любых участников конференций, но начинать сессии могут только те, кто зарегистрирован в Оплёте.

Крынка (GitLab)

Основная вики-страница: Брацка Крынка
Брацка Крынка -- это средство для работы над проектами, построенное на основе программного обеспечения GitLab и доступное исключительно администраторам Брацкой Школы и авторизованным ими разработчикам программного обеспечения. Доступ к Крынке осуществляется исключительно по PKI.

Пошта (RoundCube)

Основная вики-страница: Брацка Пошта
Брацка Пошта -- это электронная почта, построенная на основе Почтового сервера и доступная исключительно выпускникам семинара Выбор Профессии.

Правка (MediaWiki)

Основная вики-страница: Брацка Правка
Брацка Правка -- это открытая база знаний Брацкой Школы, построенная на основе программного обеспечения MediaWiki и доступная для просмотра бесплатно 24 часа в день 7 дней в неделю любому посетителю сети Интернет. Вопрос подключения последних стабильных версий к OpenLDAP не был разрешён, потому установлена устаревшая версия 1.31.1

Разделка

Эта прилада -- перспективная. Её идея -- предоставить подмастерьям нечто типа Microsoft Office или GoogleDocs. В данный момент, установлен Nextcloud. Тут можно делиться файлами: по ссылке, или с конкретным пользователем. Ссылке можно задавать срок действия. Работают почтовые уведомления. Есть разные приложения, календарь, задачи, и т.д.

Связка (SuiteCRM)

Основная вики-страница: Брацка Связка

Сетка (HumHub)

Основная вики-страница: Брацка Сетка
Брацка Сетка -- это корпоративная социальная сеть. Сетка построена на основе программного обеспечения HumHub (установлена версия 1.9.1).

Справа (Odoo)

Основная вики-страница: Брацка Справа
Брацка Справа -- это средство управления людскими и материальными ресурсами предприятия, построенное на основе программного обеспечения Odoo. Часть Справы, например, открытые документы предприятия, может быть доступна всем посетителям сети Интернет. Другая часть, например, данные клиентов предприятия, доступна исключительно тем сотрудникам Брацкой Школы, которые подписали соглашение о неразглашении конфиденциальной информации.

Учебка (Moodle)

Основная вики-страница: Брацка Учебка
Брацка Учебка -- это средство организации учебных курсов и сертификационных программ, построенное на основе программного обеспечения Moodle (установлена версия 3.11.2.). Часть курсов Учебки, например, Брацка Вводка, может быть доступна без оплаты всем посетителям сети Интернет. Доступ к некоторым курсам может предоставляться на коммерческой основе.

Опытные приложения

OpenEdX

Вирджинский Технологический Институт использует OpenEdX, а не Moodle, для своих курсов. Отдельные пользователи Облака допускаются к этим курсам.

ProjecQtOr

Вирджинский Технологический Институт использует ProjeQtOr в практических занятиях с обеспечением для управления плановыми разработками. Отдельные пользователи Облака допускаются к этим занятиям.

Redmine

Redmine исторически использовался в Брацкой Крынке. Сейчас он должен стать приложением для экспериментов с программным обеспечением управления разработками.

Taiga

Вирджинский Технологический Институт использует Taiga software в практических занятиях с обеспечением для управления гибкими разработками. Отдельные пользователи Облака допускаются к этим занятиям.

Поддержка и развитие

Общая стратегия

  1. Поддерживать те технологические ресурсы, которые имеются в наличии, для чего заключить договор на обслуживание каждого ресурса.
  2. Набирать координаторов проектов для разработки запросов и требований.
  3. Искать исполнителей на те Работы в Брацкой Школе, которые относятся к технологическим ресурсам.

Развитие

Основная вики-страница: Работы над Bskol

Связанные лектио

Источник — «https://pravka.bskol.com/w1/index.php?title=Брацко_Облако&oldid=27633»