| 
  • If you are citizen of an European Union member nation, you may not use this service unless you are at least 16 years old.

  • You already know Dokkio is an AI-powered assistant to organize & manage your digital files & messages. Very soon, Dokkio will support Outlook as well as One Drive. Check it out today!

View
 

Fabian Offert - Topic Modeling Excercise

Page history last edited by Fabian Offert 7 years, 2 months ago

Topic Modeling the Complete Works of Marx and Engels ("MEW")

 

./bin/mallet import-dir --input ../mew-txt --output ../mew.mallet --keep-sequence --remove-stopwords --stoplist-file stoplists/de.txt

./bin/mallet train-topics  --input ../mew.mallet --num-topics 20 --output-topic-keys ../mew_keys.txt --output-doc-topics ../mew_compostion.txt --optimize-interval 20

 

0 0.11735 internationale marx generalrat internationalen generalrats kongreß engels iaa arbeiter arbeiterassoziation kommune sektion deutschen mitglied allianz sektionen haben kongresses london pariser 

1 0.74338 mir noch engels will mich uns alle friedrich ihn schon haben wohl denn habe hat einmal war ihm seinem weiß 

2 0.1662 engels deutschen arbeiter partei rußland arbeit sozialistischen marx deutschland sozialisten sozialismus the arbeiterklasse deutsche bauern entwicklung russischen ausgabe uns band 

3 0.07936 vogt zeitung kavallerie wurde war italien gegen schlacht truppen armee waren napoleon infanterie italienischen während deutschen general frankreich österreich schweiz 

4 0.22814 the arbeiter arbeit and stunden usw arbeitskraft london maschinerie wert ware kinder teilung arbeiten note ihrer arbeitszeit man i.e während 

5 0.20625 kapital kapitals nur also teil wert pfd.st geld waren ware form produktion diese kapitalisten mehrwert arbeit selbst profit seiner mehrwerts 

6 0.15268 englischen indien england new-york tribüne britischen während daily regierung artikel pfd staaten china london bank lord usa sir anderen englische 

7 0.135 engels siehe london mir partei band habe lafargue haben deutschen brief ihnen paul sehr uns anm bebel mich dann seit 

8 0.2412 arbeit nur kapital geld selbst wert produktion ware form also the kapitals sondern arbeitszeit zirkulation verhältnis seiner tauschwert gebrauchswert etc 

9 0.15871 marx engels london revolution kommunisten bundes willich artikel köln kinkel kölner dezember deutschen zeitung revolutionären weydemeyer tribüne paris bonaparte stieber 

10 0.19539 marx engels mir siehe london the band brief habe sehr mich hat manchester dir war ihm lieber noch gegen anm 

11 0.02782 xai selbst epikur also denn philosophie natur nur menschen marx sondern wesen arbeit xal sei ihm seiner leben verhältnis welt 

12 0.21795 also dühring natur bewegung engels uns dialektik nur selbst kraft arbeit herr wissenschaft menschen hegel herrn geschichte the andern entwicklung 

13 0.27308 nur menschen gesellschaft kritik selbst also gegen staat welt sondern deutschen hat wesen arbeit ihm seiner ihrer geist recht andern 

14 1.25645 war nur wurde marx gegen noch diese seiner alle selbst ihrer ihm waren diesem wurden england zeit seit teil schon 

15 1.2537 hat man haben diese noch nur ihnen ohne mehr sehr keine diesen sei dann ganz ihn siehe herr immer selbst 

16 0.20274 the arbeit wert kapital and also profit nur teil capital labour arbeiter value kapitals waren ware rente that produkt iii 

17 0.54819 war wurde armee frankreich paris gegen krieg französischen regierung engels worden waren mann truppen während stadt wurden marx preußen karl 

18 0.13011 rußland lord türkei russen russischen armee artikel englischen regierung palmerston tribüne alliierten london russische england new-york österreich daily krim habe 

19 0.21218 zeitung nationalversammlung gegen herr revolution deutschen regierung preußischen arbeiter versammlung köln neue rheinischen bourgeoisie uns rheinische juni ministerium neuen engels 

 

Suffers from major stop-word ("mir, also, haben") and meta-word ("brief", "band", "etc") problems, apparently the included list is not very good in dealing with Marx' and Engel's "dated" style. The fact that much of MEW consists of letters does most likely contribute as well. Words marked in red were used to create an additional stop-word list.

 

./bin/mallet import-dir --input ../mew-txt --output ../mew.mallet --keep-sequence --remove-stopwords --stoplist-file stoplists/de.txt --extra-stopwords ../mew_stopwords.txt

./bin/mallet train-topics  --input ../mew.mallet --num-topics 20 --output-topic-keys ../mew_keys.txt --output-doc-topics ../mew_compostion.txt --optimize-interval 20

 

0 0.1047 engels london partei lafargue deutschen august ausgabe sozialistischen paul bebel zeit französischen arbeiter frau laura deutschland arbeiterpartei arbeiterbewegung kautsky mitglied 

1 0.21712 armee truppen frankreich mann krieg stadt general französischen franzosen preußen korps jedoch napoleon paris schlacht soldaten kavallerie teil englischen regierung 

2 0.06154 vogt zeitung stieber willich london kinkel bonaparte cluß schweiz kölner bundes kossuth cherval jahrhunderts köln später gottfried vogts fleury nationalversammlung 

3 1.07896 alles zeit ganze etwas ganzen alten gibt macht lassen herr seite leben sache viel herrn kommen ihren neue überhaupt engels 

4 0.19852 marx engels london the manchester artikel sache frau deutschen schreiben dich ausgabe vorl deutschland unserer wäre zeitung briefe erhalten mitglied 

5 0.72594 engels marx deutschen revolution partei bourgeoisie frankreich gesellschaft deutschland revolutionären französischen neuen kampf deutsche teil regierung london großen macht bauern 

6 0.84762 marx karl englischen jahren england erschien ersten november september heute jedoch juni vorl regierung geschrieben zeitung statt ende juli märz 

7 0.17942 gott friedrich engels philosophie schelling bremen marie dich deutschen drei potenz vernunft deutsche gutzkow karl gleich wilhelm hegel liebe geist 

8 0.17167 zeitung nationalversammlung herr köln revolution versammlung preußischen regierung neue arbeiter rheinischen rheinische neuen juni ministerium berlin deutschen preußische volk preußen 

9 0.17182 engels bewegung dühring natur arbeit entwicklung geschichte produktion wissenschaft philosophie menschen kraft gesellschaft herr dialektik herrn form ausgabe the gebiet 

10 0.30598 menschen gesellschaft staat welt wesen recht politischen geist arbeit hegel philosophie freiheit deutschen eigentum macht bürgerlichen sancho mensch religion verhältnisse 

11 0.24177 arbeit kapital geld produktion ware form wert kapitals zirkulation verhältnis arbeitszeit tauschwert gold the erscheint austausch gebrauchswert arbeiter produkt geldes 

12 0.17321 rußland lord regierung england türkei russen new-york tribüne daily russischen london marx englischen armee artikel palmerston britischen indien pfd the 

13 0.09725 internationale generalrat marx internationalen generalrats kongreß arbeiter iaa arbeiterassoziation paris kommune sektion mitglied sektionen engels allianz kongresses pariser konferenz london 

14 0.98815 würde zwischen ihren zwei einige kein wäre deren jahre art etwa sollte sogar weise weniger großen allgemeinen januar würden außer 

15 0.027 xai epikur philosophie natur marx menschen arbeit wesen xal bewegung verhältnis plutarch atome toü welt mensch est leben demokrit form 

16 0.38735 arbeiter kritik bourgeoisie proudhon arbeit herr englischen gesellschaft industrie klasse masse the kinder manchester bourgeois arbeitern konkurrenz england kritische bauer 

17 0.20373 the arbeit wert kapital profit teil capital labour kapitals arbeiter value ware produkt rente that produktion iii which profits verhältnis 

18 0.21469 kapital kapitals teil wert pfd.st geld form ware produktion kapitalisten mehrwert arbeit profit rente mehrwerts produkt pfd verschiednen profitrate arbeitskraft 

19 0.20916 the arbeit arbeiter stunden wert arbeitskraft ware london maschinerie teilung arbeitszeit arbeiten note arbeitsprozeß for mehrarbeit baumwolle arbeitstags kinder mehrwert 

 

Looks way better. Here are the top three topics for volumes 26a, 26b, and 26c (the three parts of "Das Kapital"):

 

Vol. 26a: 17:0.684, 11:0.129, 03:0.057

Vol. 26b: 17:0.800, 18:0.086, 11:0.041

Vol. 26c: 17:0.666, 11:0.142, 18:0.091

 

No surprisingly, topics 17, 11, and 18 make up most of the three volumes. 

Comments (0)

You don't have permission to comment on this page.