Методы статистического анализа исторических текстов (часть 2) - Анатолий Фоменко

Если значения авторского инварианта для двух сравниваемых текстов оказываются близкими, отсюда нельзя делать заключение об их принадлежности одному писателю.

Ясно, что априори само существование таких замечательных лингвистических инвариантов ниоткуда не следует. Для их выявления требуется обширный вычислительный эксперимент. И такой эксперимент был нами проведен на протяжении нескольких лет. Перейдем к изложению результатов.

4. ПОСТАНОВКА ЭКСПЕРИМЕНТА. СПИСОК ИССЛЕДОВАННЫХ

НАМИ ПАРАМЕТРОВ.

Для обнаружения "бессознательного параметра" - авторского инварианта, слабо или вообще не контролируемого писателями, мы изучили следующие количественные характеристики текстов.

1) ДЛИНА ПРЕДЛОЖЕНИЙ, т.е. среднее число слов в предложении (подсчитанное для каждой выборки).

2) ДЛИНА СЛОВ, т.е. среднее количество слогов в слове, подсчитанное для каждой выборки.

3) ОБЩАЯ ЧАСТОТА УПОТРЕБЛЕНИЯ СЛУЖЕБНЫХ СЛОВ - ПРЕДЛОГОВ, СОЮЗОВ, ЧАСТИЦ, т.е. процентное содержание служебных слов в каждой выборке.

4) ЧАСТОТА УПОТРЕБЛЕНИЯ СУЩЕСТВИТЕЛЬНЫХ, т.е. их процентное содержание в каждой выборке.

5) ЧАСТОТА УПОТРЕБЛЕНИЯ ГЛАГОЛОВ, т.е. их процентное солержание в каждой выборке.

6) ЧАСТОТА УПОТРЕБЛЕНИЯ ПРИЛАГАТЕЛЬНЫХ (в процентах).

7) ЧАСТОТА УПОТРЕБЛЕНИЯ ПРЕДЛОГА "В" (в процентах).

8) ЧАСТОТА УПОТРЕБЛЕНИЯ ЧАСТИЦЫ "НЕ" (в процентах).

9) КОЛИЧЕСТВО СЛУЖЕБНЫХ СЛОВ В ПРЕДЛОЖЕНИИ, т.е. среднее число союзов, предлогов и частиц в предложении.

Некоторые из перечисленных параметров рассматривались ранее. Однако предложенный нами параметр 3 - частота всех служебных слов - является, насколько нам известно, НОВЫМ.

Указанные параметры существенно различны по своему характеру. Наш параметр 3 особо выделяется своей интегральностью, "массовостью", так как здесь подсчитывается суммарный процент ВСЕХ СЛУЖЕБНЫХ СЛОВ, которых очень много! Большое число служебных слов, используемых в русском языке, делает этот параметр невероятно трудно контролируемым на сознательном уровне. Писатель может легко следить, например, за длиной своих предложений. Однако трудно представить себе автора, который при написании книги смог бы уследить за процентом своих служебных слов!

Параметры 7 (частота предлога "в") и 8 (частота частицы "не") описывают распределение отдельных служебных слов и заметно менее "массовы", чем суммарный параметр 3. Мы включили параметры 7 и 8 в наш список, чтобы выяснить - стабилизируются ли они и могут ли они служить в качестве авторских инвариантов (ответ оказался отрицательным!).

Параметр 9 - количество служебных слов в предложении - хотя и носит интегральный характер, однако существенно зависит от длины предложений и следовательно от их числа в выборке. А эта последняя величина, как показали подсчеты, весьма неустойчива и может колебаться в заметных пределах, не стабилизируясь.

Мы специально собрали в нашем списке самые разнородные числовые характеристики, чтобы составить представление о сравнительном поведении этих параметров и выбрать из них действительно стабилизирующийся (т.е. авторский инвариант), если таковой вообще найдется.

В основу исследования был положен описанный выше выборочный метод из генеральной совокупности. Величина шага, т.е. интервал между соседними выборками, для книг большого объъема равнялся 60 страницам стандартного книжного текста.

Величина же выборки варьировалась. Размер начальной порции, в отличие от 1000 слов, ранее принимавшийся многими авторами, был принят равным 2000 слов. Затем объем выборок последовательно увеличивался, а именно - 4000, 8000, 16000 слов.

Проведенный эксперимент показал, что дальнейшее увеличение объема выборок не обязательно, так как искомый АВТОРСКИЙ ИНВАРИАНТ был обнаружен уже при величине выборки в 16000 слов.

При исследовании текстов небольшого объема величина шага уменьшалась и выборки производились чаще. Впрочем, как показал эксперимент, величина шага (в отличие от объема выборки) мало сказывается на окончательных результатах.

В качестве критерия стабилизации был взят следующий принцип. Объем выборки увеличивался до тех пор, пока не обнаруживался параметр, для которого средняя величина его отклонений от средних значений вдоль произведений всех исследуемых писателей оказывалась существенно меньше амплитуды колебаний параметра между текстами разных авторов.

Другими словами, для каждого автора вычислялось отклонение параметра от среднего значения, а затем эти отклонения усреднялись по всем авторам. Разыскивался параметр, для которого это последнее число существенно меньше разницы между максимальным и минимальным значениями параметра по всем исследуемым писателям.

5. СПИСОК ИССЛЕДОВАННЫХ НАМИ АВТОРОВ

И ИХ ПРОИЗВЕДЕНИЙ.

Мы воспользовались традиционной периодизацией истории русского литературного языка [р9]. В качестве основного исторического периода был избран XIX век, где были выбраны 9 писателей, писавших по-русски и создавших большие тексты. См. список ниже.

Однако, чтобы составить более полное представление об эволюции перечисленных параметров в зависимости от исторической эпохи, рамки эксперимента были расширены. К списку авторов ЧШЧ века мы добавили писателей XVIII и XX веков. В итоге получился список из 23 писателей (см. ниже). Для каждого писателя были обработаны все его основные книги. Оказалось, что полученные результаты практически не зависят от объема произведений при условии, что объемы достаточно велики.

Приведем список обработанных нами литературных произведений.

ПИСАТЕЛИ XVIII ВЕКА:

1) ЧУЛКОВ М.Д. (1743-1792) - роман "Пригожая повариха" (написан в 1770 г.), М., 1971.

2) НОВИКОВ Н.И. (1744-1818) - сатирический журнал "Живописец" (издан в 1772-1773 гг.), М., 1971.

3) ФОНВИЗИН Д.И. (1745-1792) - "Записки первого путешествия" (написаны в 1777-1778 гг.), повесть "Повествование глухого и немого" (издана в 1783 г.), повесть "Калисфен" (издана в 1786 г.), сочинение в письмах "Друг честных людей или стародум" (написано в 1830 г.), мемуары "Чистосердечное признание в делах моих и помышлениях" (изданы в 1830 г.), М., 1971.

4) РАДИЩЕВ А.Н. (1749-1802) - "Путешествие из Петербурга в Москву" (издано в 1790 г.), М., 1971.

5) КАРАМЗИН Н.М. (1766-1826) - "История Государства Российского" (написана в 1816-1826 гг.), повесть "Бедная Лиза" (издана в 1792 г.), повесть "Остров Бернгольм" (издана в 1794 г.), повесть "Марфа Посадская" (издана в 1803 г.), М., 1971.

6) КРЫЛОВ И.А. (1769-1844) - повесть "Каиб" (издана в 1792 г.), "Похвальная речь" (издана в 1792 г.), М., 1971.

ПИСАТЕЛИ XIX ВЕКА:

7) ГОГОЛЬ Н.В. (1809-1852) - повести: "Вечера на хуторе близ Диканьки", "Сорочинская ярмарка", "Вечер накануне Ивана Купала", "Майская ночь или утопленница", "Пропавшая грамота", "Ночь перед Рождеством", "Страшная месть", "Иван Иванович и его тетушка", "Заколдованное место" (изданы в 1831-1832 гг.), повести: "Миргород", "Старосветские помещики", "Тарас Бульба", "Вий", "Повесть о том, как поссорились Иван Иванович с Иваном Никифоровичем" (изданы в 1835 г.), "Повести" (Петербургские): "Невский проспект", "Нос", "Портной", "Шинель", "Коляска", "Записки сумасшедшего", "Рим" (изданы в 1833-1842 гг.), поэма "Мертвые души" (издана в 1840 г.), М., 1959, 1971.

8) ГЕРЦЕН А.И. (1812-1870) - мемуары "Былое и думы" (изданы в 1852-1868 гг.), М., 1969.

9) ГОНЧАРОВ И.А. (1812-1891) - роман "Обыкновенная история" (издан в 1847 г.), роман "Обломов" (издан в 1859 г.), роман "Обрыв" (издан в 1869 г.), М., 1959.

10) ТУРГЕНЕВ И.С. (1818-1883) - "Записки охотника" (написаны в 1855-1856 гг.), роман "Рудин" (написан в 1855-1856 гг.), роман "Дворянское гнездо" (написан в 1859 г.), роман "Накануне" (написан в 1860 г.), роман "Отцы и дети" (написан в 1862 г.), М., 1961.

11) МЕЛЬНИКОВ-ПЕЧЕРСКИЙ П.И. (1818-1883) - "Красильниковы" (дорожные записки, 1852 г.), рассказ "Дедушка Поликарп" (написан в 1857 г.), рассказ "Поярков" (написан в 1857 г.), рассказ "Старые годы" (написан в 1857 г.), роман "В лесах" (написан в 1871-1875 гг.), М., 1963.

12) ДОСТОЕВСКИЙ Ф.М. (1821-1881) - роман "Преступление и наказание" (написан в 1866 г.), роман "Братья Карамазовы" (написан в 1879-1880 гг.), М., 1970-1973.

13) САЛТЫКОВ-ЩЕДРИН М.Е. (1826-1889) - "История одного города" (написана в 1869-1870 гг.), роман "Господа Головлевы" (написан в 1875-1880 гг.), М., 1975.

14) ЛЕСКОВ Н.С. (1831-1895) - повесть "Леди Макбет Мценского уезда" (написана в 1864 г.), повесть "Воительница" (написана в 1866 г.), "Запечатленный ангел" (повесть написана в 1873 г.), повесть "Очарованный странник" (написана в 1873 г.), рассказ "Железная воля" (написан в 1876 г.), рассказ "Однодум" (написан в 1879 г.), рассказ "Несмертельный голован" (написан в 1880 г.), рассказ "Левша" (написан в 1881 г.), рассказ "Тупейный художник" (написан в 1883 г.), рассказ "Человек на часах" (написан в 1889 г.), рассказ "Зимний день" (написан в 1894 г.), М., 1973.

15) ТОЛСТОЙ Л.Н. (1828-1910) - повесть "Детство" (написана в 1852 г.), повесть "Отрочество" (написана в 1854 г.), повесть "Юность" (написана в 1856 г.), рассказ "Набег" (написан в 1852 г.), повесть "Утро помещика" (написана в 1856 г.), повесть "Казаки" (написана в 1863 г.), роман "Война и мир" (написан в 1863-1869 гг.), роман "Анна Каренина" (написан в 1873-1877 гг.), роман "Воскресение" (написан в 1899 гг.), М., 1960-1964.