Базы данных. mongodb

MongoDB is a web-scaleКурс «Базы данных»

Антон Волохов

Yandex

7 октября 2013 г.

А. В. Волохов (Yandex) MongoDB 7 октября 2013 г. 1 / 51

Содержание

1 Введение

2 API

3 Storage internals

4 Replication


Содержание

5 Sharding

6 Секретный ингредиент

7 Заключение


Введение Терминология

Терминология

Документ - Ряд в RDBMSКоллекция - Таблица в RDBMSБаза данных - Базы данных в MySqlПространство имён - Пара <база данных,коллекция>Нода - Процесс базы данных, осуществляющийхранение и поиск пользовательских данных надискеРеплика - Множество Node, обладающееполной копией одних и тех же данныхШард - Единица масштабирования БД


Введение Disclaimer

Disclaimer

Если есть вопрос, меня можно и нужно перебиватьНе на каждый вопрос я смогу ответить по ходулекцииНе на каждый вопрос я смогу ответить


API Декларированные цели

Декларированные цели

ПроизводительностьПростота использованияГоризонтальное масштабированиеОбработка эволюционирующих данныхКонкуренция с RDBMS


API MongoDB features

MongoDB features

BSON протоколJS консольХранимые процедурыMaster-slave репликацияШардирование без даунтаймаСистема хранения файлов GridFS


API MongoDB features

API

Хранимые процедуры> db.system.js.insert ({"_id" : "inc", "value" : f unc t i on (x)

{ re tu rn x+1}})> db.eval("inc(1)")2

ИндексыMapReduceУникальный первичный ключ> db.books.insert({foo:"bar"})> db.books.find(){ "_id" : ObjectId("5251664b629201a4d4164ec0"), "foo" : "bar" }


API Querying

Примеры запросов

Документыisbn = {_id: "0-321-34960-1",author: "B. Goetz",title: "Java Concurrency In Practice",ISBN :{"ISBN-10": "0-321-34960-1","ISBN-13": "978-0-321-34960-6"},"authors-list":["Brian Goetz", "Tim Peierls", "Doug Lea", "Joseph

Bowbeer", "David Holmes"]}

Запросыdb.test.insert(isbn)db.test.find({ "title" : /Java/ })db.test.update(isbn, { $push : { "authors-list" : "Joshua Bloch" }})db.test.insert({ "foo" : "bar" })db.test.find({ "title" : { $gte : "Java" }, "title" : { $lt : "Python"

}})


API Querying

Вложенные документы> db.items.insert({ foo : "foo", "bar" : { "first" : 1, "second" : 1 }})> db.items.insert({ foo : "foo", "bar" : { "first" : 1, "second" : 2 }})> db.items.insert({ foo : "foo", "bar" : { "first" : 2, "second" : 1 }})

Запрос на точное совпадение> db.items.find({ bar:{ "first" : 1 , "second" : 1 }})

{ "_id" : ObjectId("52517090629201a4d4164ec1"), "foo" : "foo","bar" : { "first" : 1, "second" : 1 } }

Запрос на диапазон значений> db.items.find({ bar : { $gte : { "first" : 1, "second" : "" }},"bar" : { $lt : { "first" : 2, "second" : "" }}})

{ "_id" : ObjectId("52517090629201a4d4164ec1"), "foo" : "foo","bar" : { "first" : 1, "second" : 1 } }

{ "_id" : ObjectId("5251709e629201a4d4164ec2"), "foo" : "foo","bar" : { "first" : 1, "second" : 2 } }


Storage internals Работа с файловой системой

Работа с файловой системой

Аллокейтим файлы на диске отдельно для каждойбазы данных-rw------- 1 mongodb nogroup 16M test.ns-rw------- 1 mongodb nogroup 64M test.0-rw------- 1 mongodb nogroup 128M test.1...-rw------- 1 mongodb nogroup 2.0G test.5-rw------- 1 mongodb nogroup 2.0G test.6

Создаём служебную базу данных (∼ 5% дисковогопространства)



Кеширование

Не in-memory databaseНе занимаемся memory managementMemory-mapped filesFile system cache



Файлы данных

ЭкстентУказатели на первую и последнюю записьПоложениеДлинаПространство имён

ЗаписьДлинаСмещение внутри экстентаСмещения предыдущей и последующей записейДокументPadding


Storage internals Advanced querying

В свете этого

УдалениеПомечаем пространство как свободноеНе пишем на диск

ДобавлениеЛенивоВ первый найденный свободный блок

ОбновлениеДокумент увеличился?Влезает ли обновлённый элемент в свой блок?



Администрирование

Проблемы1 Фрагментация данных2 Параллельное изменение одних и тех же файлов3 Неконтролируемое разрастание файлов данных

Решения1 compact2 глобальные блокировки на уровне базы данных3 repair базы

РезюмеНи одного адекватного решения



Пространство имён

ИндексыКоллекцииЭкстентыСтатистика


Storage internals Индексы

Индексы

B-ДеревоКомпозитный индексПо массиву и поддокументуЗапоминаем оптимальный план запроса.explain()


Replication Replication

Master - Slave

Запись только на одну машинуЧтение со всех машинНастраиваемая консистентность



КонсистентностьНе проверяем, удалась ли записьОшибки записи в текущем соединении

getLastError()Ждёт, когда W машин запишут все изменения втекущем соединении с момента предыдущегоgetLastError()По-сути, точка синхронизации

Не верьте бенчмаркам!Если не вызывать getLastError(), клиент будет писать вмонгу, не зная, прошла ли запись. Результат - over9000rps, при неопределённом числе удачных записей.



Replication internals

Лог операцийПростейшие преобразования запросовТранзитивность репликацииТекущий мастер выбирается голосованием



Replication internals: oplog polling



Replication internals: voting

Все машины реплики знают друг о другеМастер пингует все машины своей репликиЕсли мастер не видит кворум, он снимает с себяполномочияПроцесс голосования инициирует машина,которая не может найти мастераГолосование начинается в случае, если мастер невиден кворумом



Replication internals: Rollback andRecovery

1 Откатываются все изменения, которых нет намастере

2 Накатываются все изменения нового мастера

NB!Нет автоматического разрешения конфликтовНет внятного оповещения о существованииконфликтов


Sharding Overview

Overview


Sharding Sharding meta

Sharding meta

Точечные запросы по шардамАвтоматическая балансировкаЛокализация данных



Sharding metaА что внутри?

Где хранить метаданные?Как обеспечить надёжность?Как сгруппировать данные для шардирования?



Configuration Server

Нет репликацииСинхронная записьTwo phase commitRead-Only при отказе одной из машин


Sharding Sharding in a Nutshell

Шардируем

1 Объявляем коллекцию как шардированную2 Выбираем поле, по которому будут строится чанки

ЧанкНачало диапазонаКонец диапазонаОбъемПринадлежность к шарду



Балансируем

Периодичный бэкграунд процесс роутера

Workflow1 Пытаемся взять lock2 Если удалось, опрашиваем каждое пространство

имён3 Смотрим на распределение и заполненность

чанков4 Определяем, нужно ли делить или перемещать

чанки5 Осуществляем миграцию



Решаем проблемы

ПлохоХодить на каждый запрос в амстердам с западногопобережья - не комильфо.

Кеширование на стороне роутера

Всё ещё плохоПосле каждой миграции, кешированная информациястановится протухшей.

Оповещаем роутеры, они обновляют кеш

На хлеб уже мажется.А. В. Волохов (Yandex) MongoDB 7 октября 2013 г. 31 / 51


Решаем проблемы

Но ещё пахнетНе можем контролировать распределение чанков; нетзаявленной локализации данных

ТэгиСвойство шардаОтображение из диапазона ключей в тэг



Тэги

{ ns : "test.books", minKey : { date : 01.01.2013 }, maxKey : {date : $MaxKey}, tag : "ssd" }



Не решаем проблем

Не предусмотренноеDDL-убивашкаНельзя так просто взять и поменять ключшардированияЕсли поздно объявить коллекцию шардированной,все существующие данные навсегда окажутся водном чанкеЧанки не умеют склеиваться и не умирают приопустении


Sharding Ключ шардирования

Выбираем ключ шардированияСхема:

100 000 000 записей{url: "http://www.imdb.com/title/tt0795176/", domain : 1, title:

"Planet Earth", "air date": 2007, seasons:[1], rating:9.5cast:<...>, similar:<...>, description:<...> }

Полный урл уникаленНекоторые домены могут содержать десятки тысячдокументовСписок доменов меняется редко, информация по урламменяется часто, домены имеют возрастающийидентификатор

ЗапросыДостать одну сущность по урлуДостать 1000 сущностей по урламДостать всё из www.imdb.comОтгрузить всю базу

Как правильно выбрать ключ шардирования?А. В. Волохов (Yandex) MongoDB 7 октября 2013 г. 35 / 51


Выборы ключа шардирования (0)

Возможные вариантыObjectId()Поле с рандомным значениемУрлХеш от урлаПара <хеш от домена, хеш от урла>




ObjectId

ПреимуществаМонотонно возрастает - легко собрать чанк

НедостаткиМонотонно возрастает - запись в один шардМонотонно возрастает - пустые чанкиНевозможно поддержать уникальность урлов вразных шардах



Выборы ключа шардирования (2)Случайное значение

ПреимуществаРавномерная распределённость - запись во всешардыРавномерная распределённость - нет пустыхчанков

НедостаткиРавномерная распределённость - очень долгаямиграция, стынет кешНевозможно поддержать уникальность урлов вразных шардах




Урл

ПреимуществаУникальность урловЛокализация запросовЗапись во все шардыМало пустых чанков

НедостаткиТяжеловесный индексСложно собрать чанк - долгая миграция чанка




Пара id домена- хеш от урла

ПреимуществаТе же, что и от урлаПлюс бесплатный индекс по доменуБыстрая миграция, если обновления по доменуприходят батчамиЛегковесный индекс

НедостаткиДолгая миграция, если гипотеза о батчах невернаИногда чанки пустеют




РезюмеНа какие запросы хотим отвечать?Монотонно возрастающий ключ - плохоПолностью рандомный ключ - плохоШардовый ключ участвует в запросе -дополнительный профит



Выборы ключа шардирования. ИтогиСтудент! Помни!


Секретный ингредиент Почему MongoDB не production-ready?

Почему MongoDB не production-ready?

Писалась исходя из того, что она работаетТолько SocketException в логахСовершенно не описано поведение внеблагоприятных условияхНекачественные мониторинги



Кстати о мониторингах

db.serverStatus()

Возвращает кучу данных о базеВсе показатели - в миллисекундах от старта сервераМониторинг дёргает serverStatus

А теперь представим, что система перегружена1 Дёргаем serverStatus2 Через 20 секунд получаем ответ3 Через минуту дёргаем ещё раз4 Через 20 секунд получаем ответ5 Разность значений может быть статистикой за любой

промежуток времени от 40 до 80 секунд



Кстати о мониторингах

А теперь делим разность из предыдущего слайда на 60И получается, что за последнюю минуту половина базбыла заблокирована на чтение в течение не меньшечем 90 секунд.

Не вся статистика разделена по пространствамимёнНе знаем, какие именно запросы перегружаютбазу



WAT?


Секретный ингредиент Эксплуатация

Если действительно нужен функционал

1 Предельно уяснить, какие запросы важные2 Описать ограничения уникальности3 Построить ключ шардирования4 Не выполнять DDL на боевых базах без крайней

необходимости5 Всегда вручную передёргивать роутеры после DDL6 Заблаговременно масштабировать7 Не тянуть с шардированием


Заключение Сухой остаток

Сухой остаток

Почему MongoDB - это действительно крутоОднокнопочные шардирование и репликацияБогатый язык запросовВторичные индексы

Почему нужно трижды подуматьНечитаемые логиНепонятно, где у монги болитПри неосторожном обращении, легко превратитьвсё в тыквуНе жмутся названия полей


Заключение Осталось за кадром

Осталось за кадром

http://www.kchodorow.com/blog/2010/08/23/history-of-mongodb/ - История созданияпродуктаАвторизацияGridFSПрофилированиеAggregation frameworkMapReduce


http://www.kchodorow.com/blog/2010/08/23/history-of-mongodb/

http://www.kchodorow.com/blog/2010/08/23/history-of-mongodb/

Заключение Осталось за кадром

Литература

http://www.amazon.com/MongoDB-Definitive-Guide-Kristina-Chodorow/dp/1449344682http://docs.mongodb.org/manual/http://www.kchodorow.com/blog/index.php?s=mongodb


http://www.amazon.com/MongoDB-Definitive-Guide-Kristina-Chodorow/dp/1449344682



http://docs.mongodb.org/manual/

http://www.kchodorow.com/blog/index.php?s=mongodb

http://www.kchodorow.com/blog/index.php?s=mongodb

Вопросы?

Вопросы?

Почта [email protected]


mailto:[email protected]

Базы данных. mongodb

Documents