Why Multithread Programming Is Bad

15 Feb 2009 15:34

I think, that an idea to make every program multi-thread and multi-processor conscious is wrong.

This may seem radical and stupid at first, but let's think about this.

Not everyone knows, that multi-thread algorithms are:

  • less optimal than corresponding single-thread ones
  • more complicated

Saying less optimal than corresponding single-thread I mean this:

Suppose you have a problem to solve. You have quad-core processor and two algorithms. One loads only one core and runs for 1 minute. The parallel (multi-thread) loads all four cores and runs for 20 seconds.

Is 20 seconds more than 60 seconds? Of course not. But 20 seconds running on for cores is sometimes more like 80 seconds.

Why?

Suppose, you run the same algorithm for four different sets of data.

Single-thread version
Core 1 Core 2 Core 3 Core 4 time in seconds
single-thread algorithm for data set 1 single-thread algorithm for data set 2 single-thread algorithm for data set 3 single-thread algorithm for data set 4 60
Total time in seconds 60
Multi-thread version
Core 1 Core 2 Core 3 Core 4 time in seconds
multi-thread algorithm for data set 1 20
multi-thread algorithm for data set 2 20
multi-thread algorithm for data set 3 20
multi-thread algorithm for data set 4 20
Total time in seconds 80

Summary

In both situations the programs solved a problem for four sets of data using four processing units. Using single-thread version was faster.

Bottom line

  • implementing multi-thread programs is more complex than single-thread
  • using parallelism adds some overhead to the program performance
  • the best parallel programs are almost as fast as N-times faster than single-thread versions when using N-times more processing power

Having this said I don't think parallel computing should really happen on home computers. However, multi-threading should be used in programs to handle so-called background tasks, improving UI responsibility and separating tasks of different program parts.

Also, having multi-core processor seems OK even when running only single-thread applications, because usually you have more than 1 (usually 2 to 10) running processes, so system utilizes the additional power.

Actually I see a way of utilizing the power of multi-core processors in breaking complicated programs like window managers, display managers, file browsers, web browsers into more processes (or threads) that do different tasks, that are easily separable and thus not adding too much overhead1 and load to system.

Comments: 3

8 Bit Music Terror

11 Feb 2009 20:56

I've just listened a great track that's tagged "ataricore" otherwise called 8-bit terror.

Check this out:

Totally cool, ain't it?

Comments: 3

Co Tam U Pana, Panie Piotrze

10 Feb 2009 18:16

Za jakieś 38 godzin mam najgorszy egzamin w tej sesji: podstawy przetwarzania sygnałów. To oczywiście czas, żeby robić wszystko inne, tylko nie uczyć się. No może poza sprzątaniem.

UPDATE: Ten filmik jest świetny: http://www.zdnet.com.au/insight/software/soa/Is-it-Windows-7-or-KDE-4-/0,139023769,339294810,00.htm

Odnośnie egzaminu z podstaw przetwarzania sygnałów. Przejrzałem stare egzaminy, wyszło, że muszę się nauczyć rzeczu dość niewielu, czyli:

  • dyskretnej transformaty Fouriera
  • kilku twierdzeń dotyczątych ciągłej transformaty Fouriera
  • kilku twierdzeń dotyczątych odwrotnej transformaty Fouriera
  • działań na transformatach (odwracanie, skalowanie, przesuwanie)

Nie wydaje się, żeby to było jakoś bardzo dużo. Na szczęście, koledzy donoszą, że jednak nie będzie egzaminu ustnego z tego przedmiotu.

Jak już wspominałem zamiast uczyć się robiłem kilka innych fajnych rzeczy, między innymi wymyśliłem jak dopasować wygląd strony z biżuterią mojej Ukochanej do pionowych (zamiast zakładanych do tej pory poziomych) zdjęć jej arcydzieł.

Szkic tego, co chcę zrobić:

cr2.jpg

Ponadto odbyłem ciekawą rozmowę z Adamem Czachorowskim na temat potencjalnych tematów pracy magisterskiej oraz ogólnie tematów interesujących, czyli:

  • Jythona (ogólnie Pythona) na Androidzie
  • event-machine w kernelu (coś na podobieństwo dbusa może) lekarstwem na całe zło obecnego oprogramowania
  • CouchDB i implementacji podobnej bazy danych w Pythonie

Ponadto wymieniliśmy się poglądami na temat dobrej muzy. Padły stwierdzenia o wysokim poziomie sprawdzalności:

  • dobre kawałki to te dłuższe niż 10 minut
  • dobre kawałki we FLAC-u osiągają bitrate ponad 1000 kbit/s

Do tego dochodzi, że piszę tę notkę. Wczoraj pisałem dłuższą, ale Firefox mi wysiadł i efekt około godzinnej pisaniny poszedł do /dev/null. Miało być o Viscie pod VirtualBoksem, systemie plików tagfs i innych pierdołach.

Dzisiaj jeszcze czytałem trochę o wirtualizacji urządzeń OpenGL oraz co ciekawe DirectX (D3D).

Co ciekawe implementacja Wine'a, która polega na tłumaczeniu żądań D3D na OpenGL została skompilowana pod Windowsa (!) i używana jest w produkcie Paralels (taki komercyjny VirtualBox pod Maca) jako dodatek do zainstalowego "w środku" Windowsa.

Podobną technikę zamierzają zastosować programiści VirtualBoksa, którzy jak dotąd nie próżnowali, bo udostępnili działąjącą wirtualną kartę z obsługą OpenGL do odpalonego wirtualnego Windowsa, czym zasłużyli na gromkie brawa.

Instrukcje OpenGL idą w tym przypadku w jakiś magiczny sposób do karty graficznej hosta, więc system jest dość wydajny, bo nie występuje do końca "emulowanie" tylko raczej "przekazywanie". Gdyby dołożyć do tego biblioteki emulujące DirectX przez OpenGL od Wine'a, które też ponoć są dość wydaje, to wydaje się możliwe odpalanie gierek Windowsowych bez restartowania kompa (wielkie brawa!).

To na razie tyle, bo naprawdę (co mnie przeraża) trzeba się tego przedmiotu kiedyś nauczyć :(.

Trzymajcie kciuki!

Comments: 1

wdLite Ready For Testing

06 Feb 2009 12:30

During last days, I've been working on wdLite Installer (a light single-wiki version of Wikidot).

The main purpose of this, was to make installation of this pretty piece of software as easy as possible.

Having this said, I'll prove it is really simple on the example of Ubuntu Linux.

Overview

  • Step one: Install required packages
  • Step two: Configure database
  • Step three: Choose a proper place for wdLite and download it
  • Step four: Launch web-based installer
  • Step five: Your wiki is ready

Step one: Install required packages

Issue the following command:

sudo apt-get install apache2 php5 imagemagick subversion postgresql postgresql-contrib php5-tidy php5-pgsql php5-gd zip

Step two: Configure database

Use your user name instead of piotr. Use some (not yours) password instead of strong-password.

sudo su postgres
psql --command "CREATE USER piotr PASSWORD 'strong-password'"
createdb --owner piotr piotr

Step three: Choose a proper place for wdLite and download it

Version a

The best place for Wikidot would be probably somewhere under /var/www

(replace piotr with your user name)

sudo mkdir /var/www/wiki
sudo chown piotr /var/www/wiki
cd /var/www/wiki
svn checkout http://svn.wikidot.org/repos/wdlite/trunk .
chmod a+rwX . -R

Having wdLite copied there, it'll be accessible at: http://localhost/wiki/

Version b

You can also locate wdLite to your public_html directory.

cd ~/public_html
sudo svn checkout http://svn.wikidot.org/repos/wdlite/trunk .
sudo chmod a+rwX . -R

In order for this to work, you would need to issue the following commands:

sudo ln -s ../mods-available/userdir* /etc/apache2/mods-enabled
sudo /etc/init.d/apache2 restart

wdLite will be accessible at: http://localhost/~piotr/ (replace piotr with your user name).

Step four: Launch web-based installer

Go to http://localhost/wiki (version a) or http://localhost/~piotr (version b), click the "Click and install a wiki here!" link.

wdlite-installation.png

Fill ALL the fields. If you followed this howto, the values would be as follows:

  • PostgreSQL settings
    • user: piotr
    • password: strong-password
    • database: piotr
  • GMail settings
    • you have to create a GMail account for sending verification emails from it
    • supply the GMail login and password in the fields
  • Wiki settings
    • it's totally up to you what to include there
    • the values will be accordingly the wiki title and subtitle (shown at the very top of wiki)
  • Wiki administrator — it's you!
    • e-mail: e-mail address you will use to log in
    • password: password you will user to log in
  • Members
    • if you have friend you would like to invite to the new wiki, just enter their e-mail addresses separated with spaces. You can leave this single field empty
  • Confirm and save
    • click save and wait while the wiki is installing the database and sending invitation e-mails. This should take no more than 5 minutes (usually less than 1 minute)

Step five: Your wiki is ready

wdlite-installed.png

Log in using the e-mail address and password that you supplied in the previous step.

Enjoy your wiki!

wdlite-login.png

Comments: 20

Unless otherwise stated, the content of this page is licensed under Creative Commons Attribution-ShareAlike 3.0 License