nevmenandr/russian-20th-century-bigrams

Русскоязычные биграммы XX века

Общие замечания

В этом датасете содержатся преобразованные в более подходящий для исследования вид биграммы на русском языке и их частотности из коллекции Google Ngrams с 1918 до 2010 года. Такой выбор обусловлен диапазоном дат, в рамках которого в русском языке соблюдается современный орфографический режим. Дореформенная орфография хуже распознается системами OCR, с ней невозможно работать as is современными средствами обработки естественного языка и в целом данные, содержащие тексты, оформленные с участием обоих орфографических режимов, неконсистентны.

Особенности представления данных

В оригинальном наборе данных Google Ngrams записи выглядят следующим образом:

( отно.	1924,1,1	1928,1,1	1936,2,2	1953,2,2	1956,2,21957,2,2	1959,1,1	1962,2,2	1963,1,1	1964,1,1	1965,2,2	1967,1,1	1968,1,1	1969,4,4	1970,5,5	1972,1,11973,1,1	1979,4,4	1980,1,1	1981,3,3	1982,1,1	1984,1,1	1987,2,2	1988,2,2	1989,2,2	1991,1,1	1996,1,1
( недоразвитие_NOUN	1924,2,1	1925,5,5	1926,1,1	1927,1,11929,3,3	1930,2,2	1931,1,1	1932,2,2	1933,3,3	1934,2,2	1935,2,2	1936,9,9	1938,2,2	1939,2,2	1940,2,21941,1,1	1945,4,4	1946,1,1	1947,2,2	1948,2,2	1949,9,9	1950,5,5	1951,2,2	1952,7,6	1953,4,4	1954,13,13	1955,10,9	1956,12,12	1957,4,2	1958,7,7	1959,4,41960,13,9	1961,4,3	1962,5,5	1963,2,2	1964,9,9	1965,7,7	1966,13,12	1967,5,5	1968,6,6	1969,8,7	1970,3,21972,4,4	1973,7,7	1974,8,7	1975,3,2	1976,8,8	1977,8,7	1978,7,6	1979,1,1	1980,4,4	1981,4,4	1982,3,31983,6,6	1984,4,4	1985,3,2	1986,6,4	1987,2,2	1988,8,4	1989,3,2	1990,4,4	1991,3,3	1992,6,4	1993,5,31994,4,4	1996,3,3	1997,3,2	1998,1,1	1999,2,2	2000,15,12	2001,1,1	2002,6,6	2003,5,5	2004,1,1	2006,2,2	2007,2,2	2008,15,9	2009,5,5	2010,5,5	2011,13,9	2012,3,2	2013,17,14	2014,4,4	2015,8,5	2016,3,32017,59,48	2018,30,21	2019,58,48
( растворим_VERB	1934,1,1	1939,1,1	1945,1,1	1950,2,21951,1,1	1953,2,2	1955,1,1	1957,1,1	1958,6,4	1959,1,1	1964,1,1	1965,1,1	1966,2,2	1967,2,2	1968,3,31970,2,2	1971,5,5	1972,4,4	1973,2,1	1978,2,2	1980,3,3	1981,1,1	1982,2,2	1983,4,4	1986,2,2	1989,1,11990,4,4	1994,2,1	1995,2,2	1999,1,1	2013,3,3	2015,1,1	2017,1,1	2018,1,1	2019,2,2
( Коhayashi_NOUN	1932,3,1	1937,1,1	1949,2,2	1953,1,11955,1,1	1958,8,3	1959,2,1	1960,4,2	1961,2,1	1962,5,4	1963,1,1	1964,9,2	1965,10,10	1966,8,4	1967,2,11968,4,4	1969,11,9	1970,3,3	1971,6,4	1972,3,3	1973,3,3	1974,4,3	1975,6,3	1976,3,3	1977,5,5	1978,2,21979,8,6	1980,3,3	1981,2,2	1982,2,2	1983,3,2	1984,2,2	1985,2,2	1986,4,2	1987,1,1	1988,1,1	1989,5,31990,2,2	1991,20,3	1993,4,1	1994,2,1	1995,2,2	1996,1,1	1997,2,2	1998,15,2	2000,2,2	2002,4,1	2003,1,12007,1,1	2008,3,2	2009,1,1
) приходился_VERB	1868,2,2	1894,1,1	1896,1,1	1899,4,41902,2,2	1903,1,1	1904,3,3	1905,2,2	1906,4,4	1913,2,2	1916,3,3	1920,1,1	1921,1,1	1924,2,2	1925,1,11926,1,1	1927,3,3	1928,2,2	1929,3,3	1930,4,4	1931,7,7	1932,4,4	1933,3,3	1934,1,1	1935,1,1	1936,2,21937,7,7	1938,3,3	1939,5,5	1940,4,4	1941,1,1	1945,1,1	1946,4,4	1947,3,3	1948,2,2	1949,4,4	1950,3,31951,1,1	1952,4,4	1953,5,5	1954,16,16	1955,3,3	1956,9,9	1957,16,16	1958,14,14	1959,15,15	1960,13,12	1961,31,30	1962,14,14	1963,31,20	1964,22,22	1965,26,26	1966,29,27	1967,26,24	1968,31,31	1969,18,18	1970,24,24	1971,21,20	1972,23,22	1973,19,19	1974,32,31	1975,26,25	1976,31,29	1977,27,24	1978,31,29	1979,23,23	1980,13,13	1981,25,24	1982,15,15	1983,25,25	1984,28,28	1985,46,44	1986,18,18	1987,19,18	1988,31,31	1989,24,21	1990,33,33	1991,16,15	1992,18,17	1993,41,37	1994,37,32	1995,27,25	1996,29,27	1997,34,34	1998,33,31	1999,42,40	2000,44,43	2001,40,38	2002,40,37	2003,35,32	2004,31,29	2005,33,30	2006,25,25	2007,22,22	2008,14,14	2009,16,16	2010,12,12	2011,2,22012,5,5	2013,15,15	2014,7,7	2015,5,5	2016,3,3	2017,55,53	2018,38,33	2019,30,27
)_. указываться_VERB	1931,1,1	1970,1,1	1971,1,1	1972,1,11976,2,2	1988,1,1	1992,1,1	1997,1,1	1999,7,7	2000,3,3	2003,2,2	2005,6,6	2006,2,2	2008,3,3	2010,1,12015,1,1	2017,2,2	2018,5,4	2019,7,6

Иными словами, за биграммой с разделителями табуляциями следуют данные о годе, когда биграмма была употреблена, а также с разделителями запятыми о числе употреблений в этот год и числе книг, в которых она была употреблена. Строки оказываются разной длины, так как нулевые значения пропущены, в то время как для анализа данных более привычен табличный вид, при котором все строки оказываются одинаковой длины.

Кроме того, в настоящем датасете биграммы лемматизированы и количества педставлены не в абсолютных числах, а нормированы относительно общего числа биграмм в заданный год.

Пример представления данных:

ngram	1918	1919	1920	1921	1922	1923	1924	1925	1926	1927	1928	1929	1930	1931	1932	1933	1934	1935	1936	1937	1938	1939	1940	1941	1942	1943	1944	1945	1946	1947	1948	1949	1950	1951	1952	1953	1954	1955	1956	1957	1958	1959	1960	1961	1962	1963	1964	1965	1966	1967	1968	1969	1970	1971	1972	1973	1974	1975	1976	1977	1978	1979	1980	1981	1982	1983	1984	1985	1986	1987	1988	1989	1990	1991	1992	1993	1994	1995	1996	1997	1998	1999	2000	2001	2002	2003	2004	2005	2006	2007	2008	2009	2010
(см. рис.	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0.0000000014	0	0	0	0	0	0	0	0	0	0	0.0000000008	0	0	0	0.0000000008	0	0.0000000008	0.0000000008	0.0000000007	0.0000000015	0.0000000022	0.0000000008	0	00.0000000032	0	0	0.0000000008	0.0000000024	0.0000000045	0.0000000023	0.0000000022	0.0000000062	0.0000000066	0.0000000024	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
-ов/-есть_NOUN и	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	00.0000000010	0	0	0.0000000008	0	0	0	0.0000000032	0.0000000023	0	0	0	0.0000000033	0.0000000024	0	0	0	0	0.0000000015	0	0	0.0000000041	0.0000000024	0.0000000008	0.0000000023	0.0000000008	0	0	0.0000000030	0.0000000146	0	0	0	0.0000000081	0.0000000042	0.0000000056	0.0000000056	0	0	0	0	0	0.0000000008	0.0000000008	0	0	0.0000000008	0	0.0000000009	0	0
-т.-е._ADV в_ADP	0.0000000905	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
-т.-е. в_ADP	0.0000000905	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0
-ов/-есть и	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0.0000000010	0	0	0.0000000008	0	0	0	0.0000000032	0.0000000023	0	0	0	0.0000000033	0.0000000024	0	0	0	0	0.0000000015	0	0	0.0000000041	0.0000000024	0.0000000008	0.0000000023	0.0000000008	0	0	0.0000000030	0.0000000146	0	0	0	0.0000000081	0.0000000042	0.0000000056	0.0000000056	0	0	0	0	0	0.0000000008	0.0000000008	0	0	0.0000000008	0	0.0000000009	0	0

Процесс формирования даных

Исходные данные были получены с сервиcа Google Ngrams с помощью кода

import gzip
import os
import requests
import shutil
import datetime as dt

def proc_letter(num):
    url = f'http://storage.googleapis.com/books/ngrams/books/20200217/rus/2-000{num:02}-of-00069.gz'
    local_filename = url.split('/')[-1]
    r = requests.get(url, stream=True)
    print('downloading gzip...')
    with open(local_filename, 'wb') as f:
        f.write(r.content)
    print('done\nunzipping the file...')
    with gzip.open(local_filename, 'rb') as f_in:
        with open(local_filename.replace('.gz', ''), 'wb') as f_out:
            shutil.copyfileobj(f_in, f_out)
    print('done\ncleaning the space...')
    os.remove(local_filename)
    print('done')
    return local_filename.replace('.gz', '')

Код выполнялся в цикле

for x in range(69):
    now = dt.datetime.now()
    print(f'file number {x}')
    print(f'{now:%H:%M %d.%m.%Y}')
    filename = proc_letter(x)
    fw = open('total_data2_gram.tsv', 'a')
    fw = proc_data(filename, d_years, fw)
    fw.close()

Данные о частотности биграммы за каждый обрабатываемый год были нормированы на число словоупотреблений. Число словоупотреблений взято из файла totalcounts-2 с сайта Google Ngrams. Числа меньше 0.0000000001 отбрасывались:

def proc_data(filename, d_years, fw):
    print('processing the lines of the table...')
    with open(filename) as f:
        for line in f:
            d_math_per_y = {}
            gram = line.split('\t')
            ngram = gram[0]
            years = gram[1:]
            for y in years:
                year, match, _ = y.split(',')
                yeari = int(year)
                match = int(match)
                if yeari < 1918:
                    continue
                rel = match / d_years[year]
                d_math_per_y[yeari] = rel
            summa = 0
            for yr in range(1918,2011):
                if yr not in d_math_per_y:
                    continue
                summa += d_math_per_y[yr]
            if summa < 0.0000000001:
                continue
            fw.write(f'{ngram}')
            for yr in range(1918,2011):
                if yr in d_math_per_y:
                    fw.write(f'\t{d_math_per_y[yr]:.10f}')
                else:
                    fw.write('\t0')
            fw.write('\n')            
    os.remove(filename)
    return fw

По окончании получения данных и нормализации файл total_data2_gram.tsv содержал 385 547 647 строк и составлял 249.1 Гб.

Затем файл total_data2_gram.tsv был лемматизирован с помощью консольной утилиты Mystem со следующими параметрами: ./mystem -dlc 'path/total_data2_gram.tsv' 'path2/culturomics_lemmed.tsv'

В результате данные приобрели следующий вид:

{ngram??}	1918	1919	1920	1921	1922	1923	1924	1925	1926	1927	1928	1929	1930	1931	1932	1933	1934	1935	1936	1937	1938	1939	1940	1941	1942	1943	1944	1945	1946	1947	1948	1949	1950	1951	1952	1953	1954	1955	1956	1957	1958	1959	1960	1961	1962	1963	1964	1965	1966	1967	1968	1969	1970	1971	1972	1973	1974	1975	1976	1977	1978	1979	1980	1981	1982	1983	1984	1985	1986	1987	1988	1989	1990	1991	1992	1993	1994	1995	1996	1997	1998	1999	2000	2001	2002	2003	2004	2005	2006	2007	2008	2009	2010
( {отное?}.	0	0	0	0	0	0	0.0000000122	0	0	0	0.0000000057	0	0	0	0	0	0	0	0.0000000088	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0.0000000049	0	0	0.0000000028	0.0000000025	0	0.0000000010	0	0	0.0000000016	0.0000000008	0.0000000008	0.0000000017	0	0.0000000008	0.0000000008	0.0000000030	0.0000000037	0	0.0000000008	0.0000000008	0	0	0	0	0	0.0000000032	0.0000000008	0.0000000024	0.0000000008	0	0.0000000008	0	0	0.0000000015	0.0000000015	0.0000000015	0	0.0000000009	0	0	0	0	0.0000000011	0	0	0	0	0	0	0	0	0	0	0	0	0	0
( {недоразвитие}_{NOUN??}	0	0	0	0	0	0	0.0000000243	0.0000000379	0.0000000070	0.0000000062	0	0.0000000167	0.0000000140	0.0000000065	0.0000000138	0.0000000163	0.0000000096	0.0000000081	0.0000000397	0	0.0000000101	0.0000000098	0.0000000102	0.0000000082	0	0	0	0.0000000365	0.0000000049	0.0000000077	0.0000000065	0.0000000212	0.0000000127	0.0000000055	0.0000000176	0.0000000097	0.0000000252	0.0000000169	0.0000000169	0.0000000049	0.0000000077	0.0000000039	0.0000000113	0.0000000035	0.0000000041	0.0000000016	0.0000000076	0.0000000061	0.0000000105	0.0000000038	0.0000000047	0.0000000060	0.0000000022	0	0.0000000032	0.0000000053	0.0000000060	0.0000000023	0.0000000059	0.0000000060	0.0000000052	0.0000000008	0.0000000031	0.0000000033	0.0000000024	0.0000000049	0.0000000031	0.0000000024	0.0000000048	0.0000000015	0.0000000061	0.0000000022	0.0000000031	0.0000000028	0.0000000073	0.0000000058	0.0000000042	0	0.0000000034	0.0000000031	0.0000000010	0.0000000018	0.0000000079	0.0000000008	0.0000000050	0.0000000038	0.0000000008	0	0.0000000017	0.0000000018	0.0000000141	0.0000000064	0.0000000074
( {растворять}_{VERB??}	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0.0000000048	0	0	0	0	0.0000000049	0	0	0	0	0	0.0000000091	0	0	0	0	0.0000000051	0.0000000028	0	0.0000000049	0	0.0000000017	0	0.0000000012	0.0000000066	0.0000000010	0	0	0	0	0.0000000008	0.0000000009	0.0000000016	0.0000000015	0.0000000024	0	0.0000000015	0.0000000041	0.0000000032	0.0000000015	0	0	0	0	0.0000000015	0	0.0000000024	0.0000000008	0.0000000016	0.0000000032	0	0	0.0000000016	0	0	0.0000000007	0.0000000031	0	0	0	0.0000000021	0.0000000022	0	0	0	0.0000000009	0	0	0	0	0	0	0	0	0	0	0
( {Коhayashi??}_{NOUN??}	0	0	0	0	0	0	0	0	0	0	0	0	0	0	0.0000000207	0	0	0	0	0.0000000044	0	0	0	0	0	0	0	0	0	0	0	0.0000000047	0	0	0	0.0000000024	0	0.0000000017	0	0	0.0000000088	0.0000000020	0.0000000035	0.0000000018	0.0000000041	0.0000000008	0.0000000076	0.0000000087	0.0000000064	0.0000000015	0.0000000031	0.0000000083	0.0000000022	0.0000000049	0.0000000024	0.0000000023	0.0000000030	0.0000000046	0.0000000022	0.0000000038	0.0000000015	0.0000000063	0.0000000024	0.0000000016	0.0000000016	0.0000000024	0.0000000015	0.0000000016	0.0000000032	0.0000000007	0.0000000008	0.0000000036	0.0000000016	0.0000000188	0	0.0000000046	0.0000000021	0.0000000022	0.0000000011	0.0000000021	0.0000000155	0	0.0000000011	0	0.0000000033	0.0000000008	0	0	0	0.0000000009	0.0000000028	0.0000000013	0
) {приходиться}_{VERB??}	0	0	0.0000000258	0.0000000223	0	0	0.0000000243	0.0000000076	0.0000000070	0.0000000187	0.0000000113	0.0000000167	0.0000000280	0.0000000456	0.0000000276	0.0000000163	0.0000000048	0.0000000040	0.0000000088	0.0000000310	0.0000000152	0.0000000246	0.0000000204	0.0000000082	0	0	0	0.0000000091	0.0000000198	0.0000000115	0.0000000065	0.0000000094	0.0000000076	0.0000000028	0.0000000101	0.0000000122	0.0000000311	0.0000000051	0.0000000127	0.0000000198	0.0000000155	0.0000000147	0.0000000113	0.0000000272	0.0000000115	0.0000000243	0.0000000186	0.0000000225	0.0000000234	0.0000000197	0.0000000244	0.0000000136	0.0000000178	0.0000000171	0.0000000186	0.0000000143	0.0000000241	0.0000000200	0.0000000230	0.0000000203	0.0000000228	0.0000000182	0.0000000102	0.0000000204	0.0000000122	0.0000000203	0.0000000214	0.0000000365	0.0000000144	0.0000000142	0.0000000236	0.0000000175	0.0000000258	0.0000000150	0.0000000219	0.0000000473	0.0000000388	0.0000000300	0.0000000325	0.0000000355	0.0000000340	0.0000000382	0.0000000232	0.0000000334	0.0000000331	0.0000000269	0.0000000244	0.0000000267	0.0000000212	0.0000000200	0.0000000131	0.0000000204	0.0000000177

Следующим шагом стала очистка данных от артефактов выдачи Mystem (фигурные скобки и знаки вопроса при лемме как указание на неуверенное решение) и некириллических биграмм:

import re

cyr = re.compile('[А-ЯЁа-яё]+')

def main():
    with open(source) as f, open(target, 'w') as fw:
        l1 = f.readline()
        l1 = l1.replace('{ngram??}', 'ngram')
        fw.write(l1)
    
    i = 0
    with open(source) as f, open(target, 'a') as fw:
        for line in f:
            i += 1
            try:
                els = line.split('\t')
                ngram = els[0]
                ngram = ngram.replace('??}', '')
                ngram = ngram.replace('?}', '')
                ngram = ngram.replace('}', '')
                ngram = ngram.replace('{', '')
            except:
                continue
            try:
                el1, el2 = ngram.split()
            except:
                continue
            if not cyr.search(el1):
                continue
            if not cyr.search(el2):
                continue
            fw.write('{}\t{}'.format(ngram, '\t'.join(els[1:])))
            if i % 10000 == 0:
                print(i)

В результате объем данных уменьшился до 270 061 709 строк.

Были найдены и смерджены все повторяющиеся после лемматизации биграммы. Частотность посчитана до 10-го знака после запятой. Финальный объем данных составил 87 537 955 записей

Для удобства обработки данные разбиты на 6 файлов по 15 млн строк каждый. В каждом файле присутствует заголовок:

ngram	1918	1919	1920	1921	1922	1923	1924	1925	1926	1927	1928	1929	1930	1931	1932	1933	1934	1935	1936	1937	1938	1939	1940	1941	1942	1943	1944	1945	1946	1947	1948	1949	1950	1951	1952	1953	1954	1955	1956	1957	1958	1959	1960	1961	1962	1963	1964	1965	1966	1967	1968	1969	1970	1971	1972	1973	1974	1975	1976	1977	1978	1979	1980	1981	1982	1983	1984	1985	1986	1987	1988	1989	1990	1991	1992	1993	1994	1995	1996	1997	1998	1999	2000	2001	2002	2003	2004	2005	2006	2007	2008	2009	2010

Перспективы применения

Данные полезны для проведения исследований в области культуромики. См. литературу ниже.

Релевантные исследовательские тексты

• Michel, J. B., Shen, Y. K., Aiden, A. P., Veres, A., Gray, M. K., Google Books Team, Pickett, J. P., Hoiberg, D., Clancy, D., Norvig, P., Orwant, J., Pinker, S., Nowak, M. A., & Aiden, E. L. (2011). Quantitative analysis of culture using millions of digitized books. Science (New York, N.Y.), 331(6014), 176–182. https://doi.org/10.1126/science.1199644
• Бонч-Осмоловская, А. А. (2023). Глава 4. Культуромика: исследование клуьтуры и языка с помощью текстовых данных Цифровые гуманитарные исследования: монография, Красноярск, 57–99.
• Бонч-Осмоловская, А. А. (2018). Имена времени: эпитеты десятилетий в Национальном корпусе русского языка как проекция культурной памяти. Шаги/Steps, 4(3-4), 115-146.
• Бонч-Осмоловская, А. А. (2015). Культуромика в национальном корпусе русского языка, к постановке задачи: три века русских дорог. Труды Института русского языка им. В. В. Виноградова, (6), 605-641.