9.4. Поисковые системы и каталоги

Поди туда – не знаю куда, принеси то – не знаю что.

Русская сказка

Объем хранящейся в Интернете информации чрезвычайно велик и оценивается десятками террабайтов. На серверах сети хранится более 2 миллиардов Web-страниц. Пользователи разыскивают в Интернете не только текстовые документы, новости, но и фото-, аудио-, видеоматериалы, товары, услуги, вакантные места работы.

Поиск информации в сети можно вести с помощью поисковых систем (ПС) и каталогов. Мощные поисковые системы и каталоги являются сложными техническими комплексами, содержащими десятки быстродействующих компьютеров, обслуживание которых ведут сотни специалистов. Вначале рассмотрим принцип действия ПС, а затем – каталогов.

Поисковые системы иначе называют: поисковыми средствами, поисковыми машинами, автоматическими индексами. Эквивалентными иностранными терминами являются: английский – Search Engines, немецкий – Suchmaschinen, французский – Le systeme de prospection. На жаргоне сети ПС иногда называют искалками, поисковиками.

Работа ПС основывается на формировании запроса, по которому происходит отбор нужных документов из распределенной базы данных, хранящейся в Интернете. Запрос формируется с помощью ключевых слов (одного или нескольких). Результаты поиска выдаются пользователю в виде списка адресов (гиперссылок) и краткой аннотации к ним.

Ключевое слово – это лексическая единица, являющаяся существительным, прилагательным, глаголом, числительным, наречием или местоимением естественного языка, которая в наибольшей степени отражает содержание всего искомого (или хранящегося) документа. При формировании запроса могут использоваться не только отдельные ключевые слова, но и словосочетания, состоящие из нескольких ключевых слов.

Запрос – это набор соединенных операторами ключевых слов, с помощью которых поисковая система автоматически ведет поиск и отбор необходимых документов. Другими словами, запрос – это инструкция (команда) для ПС на поиск нужных документов.

Запросы бывают двух типов: простыми и сложными (или расширенными).

Простые запросы состоят из отдельных ключевых слов или словосочетаний. Сложные запросы, кроме ключевых слов, содержат логические и другие операторы.

Поиск – это процедура отбора нужных документов, хранящихся в сети.

Поиск осуществляется либо автоматически с помощью ключевых слов в ПС, либо путем последовательного ручного прохода по рубрикам в каталогах.

Поиск с помощью ключевых слов сводится к их вводу (формированию запроса) в специальное поле Поиск и последующему нажатию кнопки Найти. Кнопка Найти в разных ПС может называться Search, Find, Go, Go Get it, Suchen.

На рисунке приведены фрагменты трех поисковых систем с изображением полей для ввода запросов и командных кнопок.

Для ускорения процедуры поиска ПС производит предварительную смысловую обработку хранящихся в сети документов – индексацию.

В процессе индексации каждому документу, хранящемуся в сети, ставится в соответствие свой набор ключевых слов. Когда идет обслуживание конкретного запроса на поиск нужной информации, то ПС сравнивает ключевые слова, введенные пользователем, с ключевыми словами, полученными в процессе индексации и хранящимися в базе данных ПС. При совпадении этих слов пользователю выдается доменный адрес данного документа, т. е. указывается место его хранения в сети.

Процедура поиска по ключевым словам очень напоминает работу с обычной книгой, в которой есть алфавитный указатель. Читатель с помощью алфавитного указателя определяет номер страницы книги, на которых присутствует нужное ключевое слово. Этим ускоряется поиск нужной информации. В данном случае номер страницы книги – это как бы доменный адрес Web-страницы.

Индексация документов, размещенных на различных серверах, производится поисковыми системами автоматически с помощью специальных программ – роботов (Robots). Другое название этих программ – пауки (Spiders) или черви (Worms).

Паук (робот, червь) – программа, которая автоматически периодически «посещает» сайты и индексирует их (т. е. собирает сведения о их содержимом и местоположении).

Назначение роботов очевидно: эти программы постоянно «осматривают», сканируют сеть, запоминают, что где лежит, чтобы в нужный момент времени показать пользователю точное место хранения документа (т. е. его доменный адрес). Этим объясняется потрясающе высокая скорость поиска нужной информации. Фактически роботы начинают поиск задолго до обслуживания конкретного запроса.

Тенденция развития ПС такова, что наиболее быстродействующие ПС стремятся произвести индексацию всего документа, а не только его названия и первых предложений текста. Наиболее совершенные роботы при индексации сканируют не только главную (домашнюю) страницу, но и по гиперссылкам заходят в глубь сайта (узла). Ограничивается такая идеалистическая картина индексации лишь скоростью работы современных ПС и общим быстродействием всей сети.

Предварительная индексация хранящихся в сети документов позволяет впоследствии за несколько секунд обслуживания запроса обработать (отсортировать) гигабайты разнообразной информации.

С помощью механизма предварительной индексации можно получить хороший результат поиска в случаях, когда удается точно сформировать запрос с помощью небольшого числа ключевых слов. В иных случаях пользователь либо получит большое число ссылок (иногда говорят, линков, т. е. связей), которые являются лишь «информационным шумом», либо вовсе не удастся найти необходимый документ.

Значительно повышают избирательность поиска фильтры, которыми снабжаются поисковые системы.

Фильтры позволяют:

– ограничить список отбираемых документов с помощью логических операторов (выполнить так называемый сложный или расширенный поиск);

– ограничить пространство поиска типом протокола, с помощью которого был создан документ (поиск на Web-сайтах или в телеконференциях);

– ограничить отбираемый материал временным отрезком, определенными датами создания разыскиваемого документа (например, между 18 июня 1998 г. и 7 октября 2001 г.);

– отобрать документы, составленные только на определенном языке (русский, английский);

– ограничить отбор документов территорией размещения серверов (например, только Европа);

– ограничить поиск определенной частью документа (заголовок, доменный адрес);

– отобрать документы, которые содержат фразу с заданным порядком расположения ключевых слов.

Поиск русских документов в сети дополнительно осложняется особенностями национальной грамматики. В русском языке (в отличие от английского языка) необходимо учитывать падежные окончания ключевых слов.

Наибольшей популярностью в русскоязычной части Интернета пользуются поисковые системы Rambler (произносится Ремблер, а переводится, как бродяга, праздношатающийся, его адрес www.rambler.ru), Апорт (www.aport.ru) и Яndех (www.yandex.ru).

Русскоязычные ПС позволяют усекать (отбрасывать) окончания ключевых слов и заменять их метасимволами «*» и «?». При этом на запрос «самар*» будут найдены документы, содержащие слова: Самара, Самары, самарский, самарская и т. п.

Поисковая система Aport использует принципы искусственного интеллекта. Она обрабатывает запрос таким образом, что подбирает синонимы введенным ключевым словам и автоматически решает проблему падежных окончаний.

При поиске информации ПС может делать две ошибки: пропускать (не отбирать) нужные пользователю документы и, наоборот, отбирать (присылать) посторонние документы (мусор, информационный шум). Эти ошибки, совершаемые автоматическими ПС, описываются терминами «избирательность» и «чувствительность».

Заметим, что в приведенной фразе есть некоторая терминологическая неточность: ПС отбирают не документы, а лишь гиперссылки на них. С помощью полученных ссылок пользователь просматривает или загружает на собственный компьютер понравившийся ему документ. Однако методически удобнее говорить о несоответствии запросу документа, а не гиперссылки.

Избирательность – способность ПС отбирать документы, соответствующие запросу, не включая лишних документов. Качество избирательности характеризует число ошибок первого рода – число отобранных документов, не соответствующих запросу. Чем выше избирательность, тем меньше посторонних документов попадает к пользователю.

Избирательность можно изменять (регулировать) с помощью логических операторов (фильтров).

Чувствительность – способность ПС отбирать документы, соответствующие запросу, не пропуская нужных документов. Чувствительность характеризуется числом ошибок второго рода – числом пропусков нужных документов. Чем выше чувствительность, тем меньше вероятность пропуска нужного документа.

Релевантность – степень (мера) соответствия (адекватности) найденного в процессе поиска документа сделанному запросу.

Уточнить запрос (говорят: отфильтровать информацию) позволяют логические операторы OR, AND, NOT.

Использование логического оператора AND (И) приводит к отбору документов, которые обязательно содержат все перечисленные в запросе ключевые слова, соединенные этим оператором.

Оператор NOT (НЕТ) позволяет исключить документы, которые содержат ключевое слово, указанное после этого оператора.

С помощью оператора NEAR (вблизи, рядом) пользователь может отбирать документы, в которых ключевые слова, соединенные этим оператором, будут находиться поблизости друг от друга, а не в разных концах документа.

Оператор FOLLOWED BY позволяет отбирать документы, в которых ключевые слова следуют друг за другом в заданном порядке.

Оператор ADJ отбирает документы, в которых ключевые слова являются смежными (следуют один за другим).

К сожалению, каждая ПС имеет собственный синтаксис запросов. Поэтому перед формированием расширенных запросов необходимо уточнить правила использования логических и других операторов.

В настоящее время ведутся работы по унификации приемов работы на различных ПС. В 1999 г. началась разработка проекта SESP (Search Engine Standards Project), который призван стандартизировать работу поисковых служб.

Современные ПС становятся интеллектуальными. Используя принципы искусственного интеллекта, они ранжируют (располагают) выводимый список документов (ссылок на них) в зависимости от степени их релевантности. При этом ПС анализируют положение найденных ключевых слов в документе (заголовок или текст), число повторений ключевых слов, их взаимное расположение в документе. Наиболее точно отобранные документы располагаются в начале списка найденных в процессе поиска документов.

Для ранжирования найденных документов используют следующие показатели.

Положение ключевого слова на странице (keyword prominence) – показатель, определяющий, как близко к началу документа находится заданное ключевое слово. Как правило, чем ближе к началу страницы располагается ключевое слово, тем точнее документ соответствует запросу.

Частота ключевого слова (keyword frequency) – показатель, учитывающий абсолютную частоту использования ключевых слов (т. е. сколько раз встречается данное ключевое слово на странице).

Наибольший «вес» при ранжировании документов имеют слова, расположенные в заголовке Web-страницы (так называемый титул). Именно этот заголовок отображается в строке заголовка браузера при просмотре страницы, и приведенные там слова имеют наибольшую ценность для ПС.

Некоторые поисковые системы при ранжировании учитывают индекс цитирования (link popularity) – количество сайтов, которые ссылаются на данный сайт.

Не всякий запрос можно четко сформулировать с помощью небольшого числа ключевых слов. Поэтому, кроме индексного механизма, используются и другие механизмы поиска и хранения информации в сети.

Как отмечалось ранее, поиск информации в Интернете можно производить с помощью поисковых систем и каталогов. Другое нередко используемое название поисковых систем, построенных с помощью каталогов, – иерархические ПС.

Термин «иерархия» означает: расположение частей или элементов целого в порядке от высшего к низшему. В данном случае правильнее говорить: иерархия – это уточнение содержания документа от его общих характеристик к частным характеристикам.

Синонимами термина «каталог» являются слова: директория, справочник, категория, рубрикатор. Каталоги представляют собой тематически подобранные сетевые адреса, которые сопровождаются краткими комментариями (аннотациями).

Каталоги появились самым естественным путем: пользователи отбирали для себя ссылки на любимые места в Интернете и составляли упорядоченные тематические списки с детализацией каждого раздела (рубрики). Именно так возник всемирно известный каталог Yahoo!, созданный студентами Стэндфордского университета Дэвидом Фило и Джерри Янгом.

В каталогах размещение информации ведется с помощью многоуровневой рубрикации, причем на каждом уровне происходит все большая детализация (уточнение) сведений об искомом (хранящемся) документе. При этом каждая последующая рубрика не исключает свойств документа, определенных предыдущей рубрикой, а лишь уточняет их. Иначе говорят: рубрики находятся в отношении соподчинения, иерархии. Еще говорят: используется принцип последовательного уточнения.

Важным термином, характеризующим работу каталогов, является рубрикация.

Рубрикация – помещение документа в соответствующий раздел (подраздел, рубрику), которое, как правило, производится вручную специалистами (модераторами, аналитиками) или авторами разработанных документов. Разработчиков Web-страниц иногда называют владельцами ресурсов или Web-дизайнерами.

Эта процедура достаточно субъективна и осуществляется на основании индивидуальных представлений людей о данной предметной области. Авторы при размещении своих страниц порой руководствуются не соображением точного соответствия документа названию рубрики, а другими соображениями. Например, с целью увеличения посещаемости своих страниц их помещают в рубрики, наиболее популярные в данный момент времени. Документ, содержащий разнообразную информацию на Web-странице, порой помещают в несколько рубрик.

На следующем рисунке показан фрагмент каталога. Указанные рубрики содержат в себе другие рубрики, в которые еще в большей степени уточняют содержимое хранящегося документа.

Перечислим доменные адреса некоторых отечественных каталогов:

http://www.list.ru/, http://www.km.ru/url/,

http://www.hi.ru/, http://www.ru/,

http://www.atrus.ru/, http://www.susanin.net/,

http://www.stars.ru/, http://yp.piter.com/,

http://www.catalog.chat.ru/, http://students.informika.ru,

http://www.ulitka.ra/

В Интернете, кроме иерархических каталогов, встречаются и другие типы каталогов – неиерархические, в которых нет соподчинения, например, каталоги, использующие алфавитно-предметную классификацию. В качестве примера можно назвать энциклопедии, музыкальные сайты, телефонные справочники и др.

На рисунке слева показан фрагмент неиерархического каталога, в котором хранятся музыкальные произведения в алфавитном порядке.

Таким образом, поисковые системы и тематические каталоги имеют свои достоинства и недостатки, взаимно дополняют друг друга. Поисковые системы «осматривают» большое число сайтов, однако автоматический отбор искомых документов сопровождается достаточно большим числом ошибок. База данных каталога хранится на одном сервере и содержит меньший объем информации, чем ПС. Тем не менее результаты поиска с помощью каталогов имеют большую релевантность по сравнению с поиском с помощью ПС.

Естественным путем образовались комбинированные (гибридные) ПС, которые позволяют вести поиск, как с помощью ключевых слов, так и с помощью каталогов. Мощные поисковые системы, которые позволяют вести поиск по ключевым словам и с помощью каталогов, а также содержат страницы различных тематических направлений, называют порталами.

Результаты поиска с помощью различных ПС будут отличаться друг от друга. Это объясняется тем, что в каждой ПС проиндексировано различное число документов и эти документы совсем не обязательно одинаковые. Кроме того, алгоритмы индексации на каждой ПС имеют свои особенности.

Существуют национальные ПС, которые в первую очередь обрабатывают информацию, составленную на родном языке, например русскоязычная региональная ПС Rambler.

Периодичность обновления информации с помощью роботов также различна, и она определяется быстродействием конкретной ПС (частотой посещения сайтов). Для расширения просматриваемого в сети пространства рекомендуют использовать несколько ПС.

Метапоисковая система позволяет вести автоматический поиск по сделанному запросу с использованием сразу нескольких поисковых машин. Укажем адреса некоторых метапоисковых систем: www.metacrawler.com, www.metor.com, www.infozoid.com, www.accufnd.com.

Кроме ПС общего назначения существуют специализированные ПС. Они предназначены для поиска музыкальных файлов (www.midi.ru), произведений искусств (www.artplanet.com), рисунков (www.graphsearch.com), книг (http://bukinist.agava.ru/), кулинарные рецептов (www.cooking.ru/search.html).

В заключение перечислим ПС, предназначенные для поиска файлов:

http://www.lycos.com/computers/downloads/

http://www.filesearch.ru/

http://www.files.ru/

http://www.freeware.ru/

При использовании перечисленных систем поиск происходит не с помощью ключевых слов, а по известным именам файлов.

Справка.

В поисковой системе Rambler на начало 2001 г. было проиндексировано более 12 миллионов документов, а в Яndex – более 34 миллионов документов.