datatab/SrpWikiDataset · Datasets at Hugging Face

text stringlengths 2 130k
UTF-8 UTF-8 varijanta je najzgodnija za kodiranje većinski latiničnog teksta.
Dato je i kratko uputstvo za korišćenje te varijante u Microsoft Word-u, Netscape Composer-u i tekstualnom editoru Kate.
U tekstu su takođe preporučeni standardni Unicode fontovi koji omogućavaju laku prenosivost teksta sa računara na računar ili za objavljivanje teksta na Internet.
Prvi računari su bili pravljeni pretežno za englesko govorno područje i imali su podršku samo za engleski alfabet, za brojeve, zagrade i još po neki kontrolni karakter, što je činilo ukupno 128 mogućih slova (u 7 bita).
To je bio tzv. -{ASCII}- ili -{US-ASCII}- standard.
1968. godine je skup karaktera proširen na 256 (8 bita), a gornjih 128 karaktera je bilo korišćeno za dodatne karaktere.
Iz neke navike je i ovaj prošireni -{ASCII}- nazivan -{ASCII}-, tako da tu često dolazi do zabune.
Da bi postojala podrška za više jezika, smišljane su tzv. kodne strane (-{Code Page}-) koje definišu ponašanje tog dodatnog skupa slova.
Osnovna kodna strana na personalnim računarima (-{PC437}-) u tom gornjem setu karaktera definiše razne grafičke karaktere za crtanje tekstualnih prozora i slično.
Kasnije je razvijeno još puno kodnih strana koje podržavaju određene jezike.
Tako postoje -{Latin1}- (-{ISO-8859-1}-) za latinična pisma Zapadne Evrope (Francuska, Nemačka, Španija, ...), -{Latin2}- (-{ISO-8859-2}-) i -{Windows-1250}- za latinična pisma Istočne Evrope (srpska latinica i sl.), -{ISO-8859-5}-, -{KOI8-R}- i -{Windows-1251}- za ćirilicu, itd.
Osnovni problem sa kodnim stranama je to što se međusobno isključuju, tj. ceo dokument mora da bude napisan istim pismom.
To uglavnom nije problem realizovati, ali ako bi bilo potrebno pomešati dva pisma, kao na primer u nekom turističkom vodiču gde zajedno postoji i tekst na srpskom, na engleskom i na francuskom, nailazi se na problem.
Zbog toga se došlo do ideje da se napravi jedinstveni zapis za sve jezike - Junikod (-{Unicode}-) (-{united}- - ujedinjen, zajednički; -{code}- - kod, zapis).
Postoji više verzija Unicode-a.
Bazična verzija je dvobajtni format zapisa do 2 = 65536 karaktera.
Njen naziv je UCS-2 zato što koristi dva okteta, odnosno dva bajta.
Sa tih 65536 karaktera rešen je problem zapisa skoro svih postojećih pisama (uključujući čak i neka izmišljena, kao na primer klingonsko pismo).
Ovaj tip Unicode-a se naziva Plain UCS-2 ili UTF-16.
Sada se javlja problem alokacije prostora za Unicode poruku na medijumu koji se koristi.
Ako je reč o nekom dokumentu na disku, on će da zauzima duplo više prostora nego konvencionalan dokument jer će se svaki karakter zapisivati sa dva bajta umesto samo sa jednim.
Ako je reč o prenosu podataka preko računarske mreže, biće potrebno preneti duplo više podataka, pa će samim tim i prenos da traje duplo više (odnosno da košta duplo više).
Postavlja se pitanje da li je to suviše velika cena za univerzalno pismo i da li postoji neki način da se taj problem prevaziđe i izbegne.
Kao rešenje uvek stoji mogućnost da se zapisuje nekom odgovarajućom kodnom stranicom i troši bajt po karakteru, ako nije neophodno korišćenje više pisama u istom dokumentu (što se retko dešava).
Drugo rešenje je korišćenje tzv. transformacionih šeme za pogodniji zapis i prenos podataka korišćenjem Unicode-a.
Prvo je razvijena Unicode transformaciona šema sa osnovnom jedinicom od 8 bita (UTF-8).
Pomoću nje se karakter zapisuje u jednom, dva ili tri bajta, u zavisnosti od toga o kom je karakteru reč.
Ova transformaciona šema je prevashodno zgodna za upotrebu u jezicima koji koriste latinicu.
O UTF-8 će biti više reči u poglavlju Ukratko o UTF-8.
Jedan deo Mail Transfer Agent-a, kao i zvanični standard za Internet poštu (IETF: STD 11, RFC 822) podržava samo 7-bitne mail poruke.
MIME standardi (RFC 2045, RFC 2046, RFC 2047, RFC 2048 i RFC 2049) omogućavaju prenos višebitnih reči preko Internet mail-a, koristeći Base64 i Quoted Printable načine kodiranja, međutim, oni nisu pravljeni za prenos Unicode-a nego za prenos bilo kakvih fajlova i nisu bili optimalna rešenja.
Zbog toga je kasnije razvijena 7-bitna transformaciona šema UTF-7.
Tu se karakter zapisuje u jednom ili u nekoliko bajtova, slično kao i u UTF-8.
Osnovna razlika je u tome što UTF-7 koristi samo Base64 karaktere koji bez problema mogu da se prenose putem elektronske pošte.
Za takvu namenu se pokazalo da je UTF-7 optimalniji zapis nego UTF-8 kada se kodira sa Base64 ili sa Quoted Printable algoritmima kodiranja.
Postoji i noviji Unicode standard pod nazivom UCS-4 koji koristi 4 bajta za zapis 2 = 2147483648 karaktera podeljenih u tzv. ravni.
Prva dva bajta definišu ravan, tako da ima 2 = 32768 ravni.
Druga dva bajta definišu karakter unutar ravni, tako da ima 2 = 65536 karaktera po ravni.
Taj noviji format je više napravljen kao plan za budućnost nego kao realna opcija, pošto još uvek ni jedan karakter nije alociran u novodobijeni prostor, odnosno svi za sada definisani karakteri (ceo UCS-2) se nalaze u ravni 0 ili osnovnoj višejezičkoj ravni (Basic Multilingual Plane, BMP).
Međutim, pošto je UCS-4 novi standard za Unicode, treba i njega imati u vidu.
Da bi se UCS-4 transparentno uveo u upotrebu redefinisani su formati zapisa UTF-7, UTF-8, UTF-16 i UTF-32.
To je učinjeno tako da svaki karakter iz UCS-2 ima istu reprezentaciju u UTF-7 i UTF-8 kao i ranije.
UTF-16 je u neku ruku sinonim za UCS-2 i sadrži više od dva bajta samo u slučaju da se kodira neki karakter van Osnovne jezičke ravni (BMP), koji za sada ne postoje.
Za više informacija, pogledajte tabelu Šema kodiranja UCS-4 u UTF-8.
UTF-32 je u stvari način zapisa UCS-4 u kome se koriste sva četiri bajta.
Zbog toga što viši i niži bajt (ili dva bajta) mogu da se zapišu u memoriju na dva načina, postoje još po dve podvarijante UTF-16 i UTF-32 koje se razlikuju po redosledu bajtova.
To su UTF-16BE (big endian) i UTF-16LE (little endian) i UTF-32BE i UTF-32LE.
Ovo nije uvedeno da bi se uvela dodatna zabuna i zbrka, nego zato što različite arhitekture računara različito čuvaju podatke.
Takođe bih želeo da napomenem da postoje dve organizacije koje definišu dva standarda za Unicode.
Jedan format je razvijen od strane tzv. The Unicode Consortium pod nazivom The Unicode Standard.
Drugi standard je razvila Međunarodna organizacija za standardizaciju - International Organization for Standardization, pod nazivom ISO/IEC 10646.
Ta dva standarda su skoro identična i razlikuju se po pitanju tzv. Han unifikacije (predstavljanje japanskih, kineskih i korejskih znakova jednim jedinstvenim skupom znakova), oko dodatnih karaktera za definisanje akcenata, a od skoro i u tome što Unicode Consortium nije još podržao UCS-4 standard.
Međutim, za našu upotrebu slobodno možemo da smatramo da su potpuno identični.
Međunarodna organizacija koja definiše standarde za Internet - Internet Engineering Task Force, IETF je u svojim standardima, tzv. zahtevima za komentarima (Request for Comments, RFC), u kojima je definisano sve što postoji na Internetu, prihvatila UTF-7 (RFC 1642 i RFC 2152), UTF-8 (RFC 2044 i RFC 2279) i UTF-16 (RFC 2781), čime su oni i zvanično ušli u upotrebu na Internetu, tj. svuda.
U najnovijim standardima IETF je izostavio Unicode Consortium i koristi samo verziju ISO 10646, što znači da je zvanično priznata verzija ISO 10646.
U HTML jeziku za opis veb stranica se javljaju još dva načina za kodiranje Unicode karaktera.
Ovi načini troše mnogo više prostora nego originalni Unicode zapis i namenjeni su za korišćenje unutar neke od kodnih stranica za ubacivanje ponekog karaktera iz neke druge kodne stranice.
Jedan način je zapis oktalnih vrednosti UTF-8 bajtova.
Zapisuje se tako što se prvo zapiše karakter \, pa onda oktalna vrednost bajta.
Ako taj karakter u UTF-8 kodiranju sadrži više bajtova, svaki bajt se zapisuje na isti način.
Tako na primer karakter F čiji je UCS-2 kod U+0424 (U+ označava da je reč o Unicode karakteru), a UTF-8 zapis 0xD0 0xA4 ima svoj HTML oktalni zapis kao \320\244, pošto je 0xD0 = 0320(oktalni) = 208(decimalni) i 0xA4 = 0244 = 164.
Drugi način zapisa Unicode karaktera u HTML-u je putem decimalne vrednosti njihovog UCS-2 koda.
Zapisuje se tako što se prvo zapišu karakteri &#, pa onda decimalna vrednost UCS-2 koda i na kraju karakter ;.
Tako bi se, na primer, gorepomenuti karakter F sa UCS-2 kodom U+0424 zapisao u HTML decimalnom zapisu kao Ф, pošto je 0x0424 = 02044 = 1060.
UTF-8 je zamišljen kao format koji najviše odgovara latiničnom tekstu.
To je veoma pogodno za korišćenje u izvornom kodu programa ili u raznoraznim markup jezicima (HTML, XML, \LaTeX, ...) jer su standardne komande tih programskih/markup jezika uvek ASCII, a tekst koji se koristi može da bude i ASCII i UTF-8.
Na taj način se ne ometa rad programskog kompajlera ili parsera markup jezika, a omogućava se korišćenje višejezičke podrške.
U UTF-8 se karakter zapisuje u obliku jednog bajta ako u svom zapisu sadrži samo najnižih 7 bita, odnosno, ako je reč o ASCII karakteru (vidi poglavlje Razvoj elektronskog zapisa teksta).
Ukoliko karakter u svom Unicode zapisu sadrži samo najnižih 11 bita, u UTF-8 se zapisuje u obliku dva bajta.
I na kraju, ako karakter sadrži svih 16 bita, zapisuje se u obliku tri bajta.
U tabeli 1 je data šema kako se UCS-4 transformiše u UTF-8.
Tabela je data za pun, četvorobajtni Unicode, a ako je reč o dvobajtnom Unicode-u, tj. o UCS-2, treba gledati samo prva tri reda u tabeli.
Detaljniji opis algoritma za transformaciju može se naći u RFC 2279.
UTF-8 nije optimalan način zapisa za kineski i japanski tekst jer umesto da se koriste dva bajta po karakteru, za takav tekst bi bilo korišćeno čak tri bajta po karakteru, ali to i nije toliko važno za nas.
Za ćirilični tekst je, sa druge strane, sve jedno da li se koristi čisti UNICODE ili UTF-8, pošto se svaki ćirilični karakter zapisuje u obliku dva bajta i u jednom i u drugom formatu.
Za nas je ipak optimalniji UTF-8 jer postoji mogućnost pisanja i ćirilicom i latinicom, pa ako u ćirilici već ne može da se izbegne upotreba dva bajta, u latinici se skoro svi karakteri zapisuju samo sa jednim bajtom (osim šđčćž).
Da bi se koristio Unicode u pripremi dokumenata, potrebno je imati odgovarajuće fontove koji ga (barem delimično) podržavaju.
Od fontova dostupnih na Windows-u, Unicode sigurno podržavaju Arial, Times New Roman, Helvetica, Verdana i Courier New fontovi, a takođe su instalirani na svim Windows platformama, tako da bi generalno trebalo da se koristi neki od tih fontova.
Fontovi tipa TimesCirilica ili YULTimes mogu da prikažu naše karaktere, ali su daleko od Unicode-a i u prenosu fajla sa jednog na drugi računar u elektronskom obliku postoji velika šansa da taj fajl neće biti lepo čitljiv na drugom računaru, tako da bi trebalo da se takvi nestandardni fontovi izbegavaju koliko god je to moguće.
Na LINUX-u i ostalim UNIX-ima se u samom nazivu fonta vidi da li podržava unicode ili ne, pošto poslednji deo naziva fonta predstavlja character set fonta.
Ako tu piše iso10646, to znači da je font Unicode kompatibilan.
Međutim, i ovde bih radi prenosivosti dokumenata, preporučio da se koriste standardni (Adobe) fontovi, kao što su Times (-adobe-times--iso10646-1), Utopia (-adobe-utopia--iso10646-1), Helvetica (-adobe-helvetica--iso10646-1), Courier (-adobe-courier--iso10646-1).
Svetski trendovi razvoja baza podataka idu ka uvođenju Unicode-a, kao standardni način zapisa podataka i XML-a, kao standarni jezik za prenos i prezentaciju tih podataka.
Većina baza podataka već duže vreme podržava Unicode.
Dobar deo aplikacija za rad sa bazama koriste XML za prezentovanje i prenos podataka, zato što se pokazalo da je XML jednostavan jezik za programiranje, za koji već postoji puno parser-a i zato što se pokazalo da je XML dovoljno fleksibilan da može da prenese bilo kakav tip podataka na sličan način.
Da bi se programi međusobno razumeli razvijeni su razni standardi za opis podataka koristeći XML (kao što je na primer Encoded Archival Description standard).
To uvođenje XML-a kao glavnog jezika za podršku bazama podataka je još više učvrstilo poziciju Unicode-a, pošto se XML fajlovi standardno pišu u UTF-8 ili UTF-16.
Zanimljiva je i ta činjenica da je Microsoft, koji se uglavnom protivi svim standardima i trudi se da definiše svoje, prihvatio XML i koristi ga gde god može.
Cela .
NET tehnologija je XML bazirana.
Zbog toga može da se očekuje da će u budućnosti biti samo više XML-a i više Unicode-a i da je bitno što ranije se orijentisati ka njima.
U tabeli 2 su izlistani skoro svi karakteri koji se kod nas koriste, sa svojim UCS-2 kodom, UTF-8 zapisom i sa HTML oktalnim i decimalnim zapisima (za više informacija pogledajte poglavlje 2).
UCS UCS znači Universal Multiple-Octet Coded Character Set, tj. Univerzalan višeoktetno (ili višebajtno) kodiran skup karaktera.
MTA -{Mail Transfer Agent}- ili skraćeno -{MTA}- je računarski program za prenošenje elektronske pošte sa jednog računara na drugi.
MIME __BEZKN__ MIME (, višenamenska proširenja za elektronsku poštu) je internet standard kojim se mogućnosti elektronske pošte proširuju na slanje: Base64 U računarstvu, -{base64}- je vrsta šifrovanja koje binarni prikaz konvertuje u -{ASCII}-, 7-bitni zapis koji koristi samo mala i velika slova latinice (-{A-Z, a-z}-), brojeve (0-9) i znakove + i / i simbol = koji prikazuje samo sufiks.
Specifikacije -{base64}- se nalaze u dokumentima -{RFC}- 1421 i -{RFC}- 2045.
Ova vrsta šifrovanja se obično koristi u elektronskoj pošti i internetu po -{MIME}- standardu.
Base64 tabela indeksa: __BEZKN__ Quoted Printable __BEZKN__ -{Quoted Printable}- je način kodiranja pomoću karaktera -{ASCII}- seta koji mogu da se odštampaju, tj. bez kontrolnih -{ASCII}- karaktera.
Karakteri koji ne pripadaju tom setu se prikazuju u obliku =, gde predstavlja heksadecimalnu vrednost koda karaktera.
Za više informacija pogledajte -{RFC 2045}-.

UTF-8 UTF-8 varijanta je najzgodnija za kodiranje većinski latiničnog teksta.

Dato je i kratko uputstvo za korišćenje te varijante u Microsoft Word-u, Netscape Composer-u i tekstualnom editoru Kate.

U tekstu su takođe preporučeni standardni Unicode fontovi koji omogućavaju laku prenosivost teksta sa računara na računar ili za objavljivanje teksta na Internet.

Prvi računari su bili pravljeni pretežno za englesko govorno područje i imali su podršku samo za engleski alfabet, za brojeve, zagrade i još po neki kontrolni karakter, što je činilo ukupno 128 mogućih slova (u 7 bita).

To je bio tzv. -{ASCII}- ili -{US-ASCII}- standard.

1968. godine je skup karaktera proširen na 256 (8 bita), a gornjih 128 karaktera je bilo korišćeno za dodatne karaktere.

Iz neke navike je i ovaj prošireni -{ASCII}- nazivan -{ASCII}-, tako da tu često dolazi do zabune.

Da bi postojala podrška za više jezika, smišljane su tzv. kodne strane (-{Code Page}-) koje definišu ponašanje tog dodatnog skupa slova.

Osnovna kodna strana na personalnim računarima (-{PC437}-) u tom gornjem setu karaktera definiše razne grafičke karaktere za crtanje tekstualnih prozora i slično.

Kasnije je razvijeno još puno kodnih strana koje podržavaju određene jezike.

Tako postoje -{Latin1}- (-{ISO-8859-1}-) za latinična pisma Zapadne Evrope (Francuska, Nemačka, Španija, ...), -{Latin2}- (-{ISO-8859-2}-) i -{Windows-1250}- za latinična pisma Istočne Evrope (srpska latinica i sl.), -{ISO-8859-5}-, -{KOI8-R}- i -{Windows-1251}- za ćirilicu, itd.

Osnovni problem sa kodnim stranama je to što se međusobno isključuju, tj. ceo dokument mora da bude napisan istim pismom.

To uglavnom nije problem realizovati, ali ako bi bilo potrebno pomešati dva pisma, kao na primer u nekom turističkom vodiču gde zajedno postoji i tekst na srpskom, na engleskom i na francuskom, nailazi se na problem.

Zbog toga se došlo do ideje da se napravi jedinstveni zapis za sve jezike - Junikod (-{Unicode}-) (-{united}- - ujedinjen, zajednički; -{code}- - kod, zapis).

Postoji više verzija Unicode-a.

Bazična verzija je dvobajtni format zapisa do 2 = 65536 karaktera.

Njen naziv je UCS-2 zato što koristi dva okteta, odnosno dva bajta.

Sa tih 65536 karaktera rešen je problem zapisa skoro svih postojećih pisama (uključujući čak i neka izmišljena, kao na primer klingonsko pismo).

Ovaj tip Unicode-a se naziva Plain UCS-2 ili UTF-16.

Sada se javlja problem alokacije prostora za Unicode poruku na medijumu koji se koristi.

Ako je reč o nekom dokumentu na disku, on će da zauzima duplo više prostora nego konvencionalan dokument jer će se svaki karakter zapisivati sa dva bajta umesto samo sa jednim.

Ako je reč o prenosu podataka preko računarske mreže, biće potrebno preneti duplo više podataka, pa će samim tim i prenos da traje duplo više (odnosno da košta duplo više).

Postavlja se pitanje da li je to suviše velika cena za univerzalno pismo i da li postoji neki način da se taj problem prevaziđe i izbegne.

Kao rešenje uvek stoji mogućnost da se zapisuje nekom odgovarajućom kodnom stranicom i troši bajt po karakteru, ako nije neophodno korišćenje više pisama u istom dokumentu (što se retko dešava).

Drugo rešenje je korišćenje tzv. transformacionih šeme za pogodniji zapis i prenos podataka korišćenjem Unicode-a.

Prvo je razvijena Unicode transformaciona šema sa osnovnom jedinicom od 8 bita (UTF-8).

Pomoću nje se karakter zapisuje u jednom, dva ili tri bajta, u zavisnosti od toga o kom je karakteru reč.

Ova transformaciona šema je prevashodno zgodna za upotrebu u jezicima koji koriste latinicu.

O UTF-8 će biti više reči u poglavlju Ukratko o UTF-8.

Jedan deo Mail Transfer Agent-a, kao i zvanični standard za Internet poštu (IETF: STD 11, RFC 822) podržava samo 7-bitne mail poruke.

MIME standardi (RFC 2045, RFC 2046, RFC 2047, RFC 2048 i RFC 2049) omogućavaju prenos višebitnih reči preko Internet mail-a, koristeći Base64 i Quoted Printable načine kodiranja, međutim, oni nisu pravljeni za prenos Unicode-a nego za prenos bilo kakvih fajlova i nisu bili optimalna rešenja.

Zbog toga je kasnije razvijena 7-bitna transformaciona šema UTF-7.

Tu se karakter zapisuje u jednom ili u nekoliko bajtova, slično kao i u UTF-8.

Osnovna razlika je u tome što UTF-7 koristi samo Base64 karaktere koji bez problema mogu da se prenose putem elektronske pošte.

Za takvu namenu se pokazalo da je UTF-7 optimalniji zapis nego UTF-8 kada se kodira sa Base64 ili sa Quoted Printable algoritmima kodiranja.

Postoji i noviji Unicode standard pod nazivom UCS-4 koji koristi 4 bajta za zapis 2 = 2147483648 karaktera podeljenih u tzv. ravni.

Prva dva bajta definišu ravan, tako da ima 2 = 32768 ravni.

Druga dva bajta definišu karakter unutar ravni, tako da ima 2 = 65536 karaktera po ravni.

Taj noviji format je više napravljen kao plan za budućnost nego kao realna opcija, pošto još uvek ni jedan karakter nije alociran u novodobijeni prostor, odnosno svi za sada definisani karakteri (ceo UCS-2) se nalaze u ravni 0 ili osnovnoj višejezičkoj ravni (Basic Multilingual Plane, BMP).

Međutim, pošto je UCS-4 novi standard za Unicode, treba i njega imati u vidu.

Da bi se UCS-4 transparentno uveo u upotrebu redefinisani su formati zapisa UTF-7, UTF-8, UTF-16 i UTF-32.

To je učinjeno tako da svaki karakter iz UCS-2 ima istu reprezentaciju u UTF-7 i UTF-8 kao i ranije.

UTF-16 je u neku ruku sinonim za UCS-2 i sadrži više od dva bajta samo u slučaju da se kodira neki karakter van Osnovne jezičke ravni (BMP), koji za sada ne postoje.

Za više informacija, pogledajte tabelu Šema kodiranja UCS-4 u UTF-8.

UTF-32 je u stvari način zapisa UCS-4 u kome se koriste sva četiri bajta.

Zbog toga što viši i niži bajt (ili dva bajta) mogu da se zapišu u memoriju na dva načina, postoje još po dve podvarijante UTF-16 i UTF-32 koje se razlikuju po redosledu bajtova.

To su UTF-16BE (big endian) i UTF-16LE (little endian) i UTF-32BE i UTF-32LE.

Ovo nije uvedeno da bi se uvela dodatna zabuna i zbrka, nego zato što različite arhitekture računara različito čuvaju podatke.

Takođe bih želeo da napomenem da postoje dve organizacije koje definišu dva standarda za Unicode.

Jedan format je razvijen od strane tzv. The Unicode Consortium pod nazivom The Unicode Standard.

Drugi standard je razvila Međunarodna organizacija za standardizaciju - International Organization for Standardization, pod nazivom ISO/IEC 10646.

Ta dva standarda su skoro identična i razlikuju se po pitanju tzv. Han unifikacije (predstavljanje japanskih, kineskih i korejskih znakova jednim jedinstvenim skupom znakova), oko dodatnih karaktera za definisanje akcenata, a od skoro i u tome što Unicode Consortium nije još podržao UCS-4 standard.

Međutim, za našu upotrebu slobodno možemo da smatramo da su potpuno identični.

Međunarodna organizacija koja definiše standarde za Internet - Internet Engineering Task Force, IETF je u svojim standardima, tzv. zahtevima za komentarima (Request for Comments, RFC), u kojima je definisano sve što postoji na Internetu, prihvatila UTF-7 (RFC 1642 i RFC 2152), UTF-8 (RFC 2044 i RFC 2279) i UTF-16 (RFC 2781), čime su oni i zvanično ušli u upotrebu na Internetu, tj. svuda.

U najnovijim standardima IETF je izostavio Unicode Consortium i koristi samo verziju ISO 10646, što znači da je zvanično priznata verzija ISO 10646.

U HTML jeziku za opis veb stranica se javljaju još dva načina za kodiranje Unicode karaktera.

Ovi načini troše mnogo više prostora nego originalni Unicode zapis i namenjeni su za korišćenje unutar neke od kodnih stranica za ubacivanje ponekog karaktera iz neke druge kodne stranice.

Jedan način je zapis oktalnih vrednosti UTF-8 bajtova.

Zapisuje se tako što se prvo zapiše karakter \, pa onda oktalna vrednost bajta.

Ako taj karakter u UTF-8 kodiranju sadrži više bajtova, svaki bajt se zapisuje na isti način.

Tako na primer karakter F čiji je UCS-2 kod U+0424 (U+ označava da je reč o Unicode karakteru), a UTF-8 zapis 0xD0 0xA4 ima svoj HTML oktalni zapis kao \320\244, pošto je 0xD0 = 0320(oktalni) = 208(decimalni) i 0xA4 = 0244 = 164.

Drugi način zapisa Unicode karaktera u HTML-u je putem decimalne vrednosti njihovog UCS-2 koda.

Zapisuje se tako što se prvo zapišu karakteri &#, pa onda decimalna vrednost UCS-2 koda i na kraju karakter ;.

Tako bi se, na primer, gorepomenuti karakter F sa UCS-2 kodom U+0424 zapisao u HTML decimalnom zapisu kao Ф, pošto je 0x0424 = 02044 = 1060.

UTF-8 je zamišljen kao format koji najviše odgovara latiničnom tekstu.

To je veoma pogodno za korišćenje u izvornom kodu programa ili u raznoraznim markup jezicima (HTML, XML, \LaTeX, ...) jer su standardne komande tih programskih/markup jezika uvek ASCII, a tekst koji se koristi može da bude i ASCII i UTF-8.

Na taj način se ne ometa rad programskog kompajlera ili parsera markup jezika, a omogućava se korišćenje višejezičke podrške.

U UTF-8 se karakter zapisuje u obliku jednog bajta ako u svom zapisu sadrži samo najnižih 7 bita, odnosno, ako je reč o ASCII karakteru (vidi poglavlje Razvoj elektronskog zapisa teksta).

Ukoliko karakter u svom Unicode zapisu sadrži samo najnižih 11 bita, u UTF-8 se zapisuje u obliku dva bajta.

I na kraju, ako karakter sadrži svih 16 bita, zapisuje se u obliku tri bajta.

U tabeli 1 je data šema kako se UCS-4 transformiše u UTF-8.

Tabela je data za pun, četvorobajtni Unicode, a ako je reč o dvobajtnom Unicode-u, tj. o UCS-2, treba gledati samo prva tri reda u tabeli.

Detaljniji opis algoritma za transformaciju može se naći u RFC 2279.

UTF-8 nije optimalan način zapisa za kineski i japanski tekst jer umesto da se koriste dva bajta po karakteru, za takav tekst bi bilo korišćeno čak tri bajta po karakteru, ali to i nije toliko važno za nas.

Za ćirilični tekst je, sa druge strane, sve jedno da li se koristi čisti UNICODE ili UTF-8, pošto se svaki ćirilični karakter zapisuje u obliku dva bajta i u jednom i u drugom formatu.

Za nas je ipak optimalniji UTF-8 jer postoji mogućnost pisanja i ćirilicom i latinicom, pa ako u ćirilici već ne može da se izbegne upotreba dva bajta, u latinici se skoro svi karakteri zapisuju samo sa jednim bajtom (osim šđčćž).

Da bi se koristio Unicode u pripremi dokumenata, potrebno je imati odgovarajuće fontove koji ga (barem delimično) podržavaju.

Od fontova dostupnih na Windows-u, Unicode sigurno podržavaju Arial, Times New Roman, Helvetica, Verdana i Courier New fontovi, a takođe su instalirani na svim Windows platformama, tako da bi generalno trebalo da se koristi neki od tih fontova.

Fontovi tipa TimesCirilica ili YULTimes mogu da prikažu naše karaktere, ali su daleko od Unicode-a i u prenosu fajla sa jednog na drugi računar u elektronskom obliku postoji velika šansa da taj fajl neće biti lepo čitljiv na drugom računaru, tako da bi trebalo da se takvi nestandardni fontovi izbegavaju koliko god je to moguće.

Na LINUX-u i ostalim UNIX-ima se u samom nazivu fonta vidi da li podržava unicode ili ne, pošto poslednji deo naziva fonta predstavlja character set fonta.

Ako tu piše iso10646, to znači da je font Unicode kompatibilan.

Međutim, i ovde bih radi prenosivosti dokumenata, preporučio da se koriste standardni (Adobe) fontovi, kao što su Times (-adobe-times-*-iso10646-1), Utopia (-adobe-utopia-*-iso10646-1), Helvetica (-adobe-helvetica-*-iso10646-1), Courier (-adobe-courier-*-iso10646-1).

Svetski trendovi razvoja baza podataka idu ka uvođenju Unicode-a, kao standardni način zapisa podataka i XML-a, kao standarni jezik za prenos i prezentaciju tih podataka.

Većina baza podataka već duže vreme podržava Unicode.

Dobar deo aplikacija za rad sa bazama koriste XML za prezentovanje i prenos podataka, zato što se pokazalo da je XML jednostavan jezik za programiranje, za koji već postoji puno parser-a i zato što se pokazalo da je XML dovoljno fleksibilan da može da prenese bilo kakav tip podataka na sličan način.

Da bi se programi međusobno razumeli razvijeni su razni standardi za opis podataka koristeći XML (kao što je na primer Encoded Archival Description standard).

To uvođenje XML-a kao glavnog jezika za podršku bazama podataka je još više učvrstilo poziciju Unicode-a, pošto se XML fajlovi standardno pišu u UTF-8 ili UTF-16.

Zanimljiva je i ta činjenica da je Microsoft, koji se uglavnom protivi svim standardima i trudi se da definiše svoje, prihvatio XML i koristi ga gde god može.

Cela .

NET tehnologija je XML bazirana.

Zbog toga može da se očekuje da će u budućnosti biti samo više XML-a i više Unicode-a i da je bitno što ranije se orijentisati ka njima.

U tabeli 2 su izlistani skoro svi karakteri koji se kod nas koriste, sa svojim UCS-2 kodom, UTF-8 zapisom i sa HTML oktalnim i decimalnim zapisima (za više informacija pogledajte poglavlje 2).

UCS UCS znači Universal Multiple-Octet Coded Character Set, tj. Univerzalan višeoktetno (ili višebajtno) kodiran skup karaktera.

MTA -{Mail Transfer Agent}- ili skraćeno -{MTA}- je računarski program za prenošenje elektronske pošte sa jednog računara na drugi.

MIME __BEZKN__ MIME (, višenamenska proširenja za elektronsku poštu) je internet standard kojim se mogućnosti elektronske pošte proširuju na slanje: Base64 U računarstvu, -{base64}- je vrsta šifrovanja koje binarni prikaz konvertuje u -{ASCII}-, 7-bitni zapis koji koristi samo mala i velika slova latinice (-{A-Z, a-z}-), brojeve (0-9) i znakove + i / i simbol = koji prikazuje samo sufiks.

Specifikacije -{base64}- se nalaze u dokumentima -{RFC}- 1421 i -{RFC}- 2045.

Ova vrsta šifrovanja se obično koristi u elektronskoj pošti i internetu po -{MIME}- standardu.

Base64 tabela indeksa: __BEZKN__ Quoted Printable __BEZKN__ -{Quoted Printable}- je način kodiranja pomoću karaktera -{ASCII}- seta koji mogu da se odštampaju, tj. bez kontrolnih -{ASCII}- karaktera.

Karakteri koji ne pripadaju tom setu se prikazuju u obliku =, gde predstavlja heksadecimalnu vrednost koda karaktera.

Za više informacija pogledajte -{RFC 2045}-.