Zeilschr. 1. math. Logik und arundlagen d . Math. Bd. 12, S . GI-68 (1966)

STOCHASTISCHE EREIGNISSE UND WORTMENGEN

von PETER H.STARKE in Berlin

Herrn Prof. Dr. Karl Schriiter zum 60. Cfeburtstag gewidmet

Es wird die Regularitat von Wortmengen untersucht, deren Definition durch die Arbeit von RABIN [l] angeregt wurde. Die RABmschen Ergebnisse werden dabei vervollstandigt . Ini folgenden benutzen wir die in [2] eingefuhrte Terminologie sowie (zur Abkiirzung) die Notation des Pradikatenkalkuls.

Def in i t ion 1. Es sei p ein stochastisches Ereignis iiber X . Fur beliebiges reelles A mit 0 5 A 1 sei

E p > A = { P l P E W ( x ) \ { e } A p ( P ) > 4 ; E,= rl = {P I 1, E W ( X ) \ {el A d p ) = 4 ; E p < a = @ l p E w ( X ) \ { e ) ~ v , ( P ) < 4.

Offenbar gilt :

S a t z 1. Es sei X $= $3 ein endliches Alphabet, E 2 W ( X ) \ {e} eine regulare Wort- menge. Dann gilt:

(1) Z u jedem 1 mit 0 5 1 < 1 gibt es ein stocltastisches Ereignis p iiber X , das in einem endlichen stochastischen Automaten dargestellt werden kann derart, dab

(2) Z u jedem il mit 0 5 I 5 1 gibt es ein stochastisches Ereignis p uber X , das in einem endlichen stochastischen Automaten dargestellt werden kann derart, dap

E = E,,, ist.

E = E,=, ist.

(3) Z u jedem A mit 0 < il 1 gibt es ein stochastisches Ereignis p uber X , das in einem endlichen stochastischen Automaten dargestellt werden kann derart, dab

Im folgenden untersuchen wir, inwieweit Umkehrungen dieses Satzes gelten. RABM zeigte in [I]:

S a t z 2. Es gibt ein stochastisches Ereignis p iiber einern mindestens zweielementigen Alphabet X , das in einem endlichen stochastischen Automaten darstellbar ist, und ein A rnit 0 5 3, < 1 derart, dab E,, irregular ist.

iiber einem mindestens zwei- elementigen Alphabet X , das in einem endlichen stochastischen Automaten dar-

E = E,<A ist.

Polgerung. Es gibt ein stochastisches Ereignis

62 PETER H. STARKE

stellbar ist und ein A mit 0 < Is 1 derart, da13 E P C l irregular ist (denn es ist E,<, = El--9?>1--l, und mit cp ist auch 1 - a, in einem endlichen stochastischen Automaten darstellbar).

AnschlieBend gibt RABIN [l] eine hinreichende Bedingung dafiir an, da13 E P > l regular ist:

Def in i t ion 2 . Es sei a, ein stochastisches Ereignis uber X . Eine Zahl A injt 0 2 A 2 1 heifit isoliert beziiglich a, genau dann, wenn es ein S > 0 gibt, so da13 fur alle p E W ( X ) \ {e} gilt:

[&4 - 11 L 8. S a t z 3 (RABIN). Es sei a, ein stochastisches Ereignis uber X und ?( = [ X , Z ; F , zol

ein endlicher initialer stochustischer Automat (ohne Ausgabe), in dem ip durch die Menge M C Z dargestellt ist, ferner sei 1 rnit 0 A < 1 isoliert bezuglich 9. Dann ist E,>, regular, und es gibt einen determinierten Automaten nait h0chsten.s

Zustanden, in dem E,>, dargestellt werden kann.

Folgerung. 1st q.i ein stochastisches Ereignis uber X , das in einein endlichen stochastischen Automaten dargestellt werden kann, und I eine r e e k Zahl mit 0 < A 2 1, die isoliert bezuglich cp ist, dann ist E,, 1 regular.

Beweis. 1st 1 isoliert bezuglich a,, so ist 1 - 1 isoliert bezuglich p = 1 - a,. Aus

E , < l = E , > I - A folgt die Behauptung.

Zur Erganzung von Satz 2 beweisen wir:

S a t z 4. Ist cp ein stochastisches Ereignis uber X , dns in einem endlichen initialen stochastischen Automaten dargestellt werden kann, dann ist die Menge E,, ,, regukir.

Beweis. Es sei 91 = [X, 8 ; F, zO] ein endlicher initialer stochastischer Automat. (ohne Ausgabe) mit dem Anfangszustand zo und M 2 Z derart, da8 fur alle p E W ( X ) \ {e} gilt:

a,@) = C ~ [ Z 0 > 1 ) 1 ( z ' ) . z ' € M

Es sei ferner z1 6 Z und f* folgende Funktion von (2 u {x,}) x X in (2) '\ {@} :

Wir behaupten :

dem E,>, durch [z,, MI dargestellt wird.l) 23 = [A?, Z u (2,) , f * ] ist ein nicht-deterministischer Automat ohne Ausgabe, in

Dazu mussen wir zeigen, daI3 fur jedes p E W ( X ) gilt:

p E E,>, genau dann, wenn f * ( q , p ) n M =+ @. 1) Vgl. dam [3] oder [4],

STOCHASTISCHE EREIGNISSE UND WORTMENGEN 63

Fur p = e ist diese Bquivalenz trivial, da f* (zl, e ) n M = {zl} n M = (3; denn zl B 2 und also z1 B M . Fur beliebiges p = x1z2 . . . z,, E W ( X ) \ { e ) gilt:

51x2 . . . X , E E ~ > ~ - ~ ? ( X ~ X ~ . . . X , ) > O

++ 3Z,+1 3Z2(Zn+, E M A 22 E z A ~ [ Z O , 211 (22) > 0 A

A z,+1 E f * ( Z 2 1 Z2% - * - 3z,+*(zn+1 E M A z,+1 E f * ( Z 1 , z1x2 * * 2,))

- f * ( z 1 , z 1 z 2 . . . z n ) n M + (d.

Damit ist unsere Behauptung bewiesen, aus der die Regularitat von E8>o ubcr bekannte Siitze der Automatentheorie folgt (vgl. [3]).

Folgerungen.

(1) Fur das nach Satz 2 existierende 1 gilt: 0 < 1. (2) 1st y ein stochastisches Ereignis uber X , das in einem endlichen stochastischcn

Automaten dargestellt werden kann, dann ist die Menge E , < regular.

(3) 1st y ein stochastisches Ereignis uber X , das in einem endlichen initialen sto- chastischen Automaten dargestellt werden kann, dann ist die Menge E,=l und dainit auch die Menge E,,o regular.

(4) 1st p? ein stochastisches Ereignis uber X und eine der Mengen E q G l , E,=,,, E,>,, EPC1 ist irreguliir, so kann p? in keinem endlichen stochastischen Auto- maten dargestellt werden.

(5) Uber jedem nichtleeren Alphabet X gibt es stochastische Ereignisse, die in keinem endlichen stochastischen Automaten dargestellt werden konnen.

1s 1 . 1 h e a t schwach-isoliert beziiglich y genau dann, wenn es ein 6 > 0 gibt, so daIj fur alle p E W(X)\ {e} gilt:

S a t z 5. Ist p? ein stochastisches Ereignis uber X , das i n einem endlichen initialen stochstischen Automaten dargestellt werden kann, und 1 eine reelle Zahl aus (0, 1) derart, da/3 A schwach-isoliert beziiglich

Defin i t ion 3. Es sci p? ein stochastisches Ereignis uber X , 0

- 11 2 6 oder q ( p ) = 1.

ist, dann ist die Meiige E q Z 1 regular.

64 PETER H. STARKE

Beweis. Fur A E (0, 1) ist der Satz trivial. Es sei 0 < 1 < 1. Wir wiihlen ein 8>0, SO daJ3 O < A - s < A < A + 6 < 1 i s tundf i i ra l lepEW(X)\{e}gi l t , : I~ l (p) -A~>>oder~l (p)=j l .Fernerwi ih lenwirZahlen A l , A 2 mit: O < A - d < < A, < A< 1, < A+ 6 < 1 . Offenbar sind A1 und 1, isoliert bezuglich q, die Mengen EV>a, , E,,A, sind also regular. Damit ist auch E,,, = EV>a, \ E , > A e regular.

Abb. 1

S a t z 6. Zu jedem 1 mit 0 < A < 1 gibt es e i n in e inem endlichen stochastischen Automaten darstellbares stochastisches Ereignis ~1 uber (0, I} , so dap die Mengen Ep>a, EV<n und E,=, irregular sind.

Beweis. Wir betrachten zunachst den Fall, daB 0 < As 112 gilt,. Wir setzen 22 = 6, wobei also O < 6 2 1 ist. Es sei 2 = (21, z 2 , . . ., z 8 } , 0 < E < 1 und F das Oberfuhrungsfunktional uber 2 x {0,1} , das durch den Graphen in Abb. 1 be- schrieben wird. (Dabei ist F[zi, x] ( x i ) = a, wobei 1 i , j 5 8, x € (0, l}, wenn bei x = 0 eine durchgezogene Kante von Knotenpunkt zi zum Knotenpunkt z j

fiihrt, an der die Zahl IX steht - wenn keine durchgezogene Kante von xi nach z j

fuhrt, so ist B’[zi, 01 ( z j ) = 0 . Bei x = 1 ist entsprechend P[zi, 11 ( z j ) an der von zi nach zj fuhrenden gestrichelten Kante abzulesen bzw. ist P$, 11 ( z j ) = 0, falls keine solche Kante existiert.) 91 = [ { O , l} , 2 ; F , zl] ist ein endlicher initialer sto-

STOGHASTlSCIIE EREIUNISSE ITND WORTNIENQEN 66

chastischer Automat ohne Ausgabe. Wir betrachten das stochastische Ereignis 9 mit :

Y ( P ) = F[zl, PI (z4)

fur alle p E W ( X ) \ { e } . Wir zeigen zuniichst :

E q Z I ist irreguliir.

Man sieht leicht ein, da13 fur alle p E W ( ( 0 , 1)) folgendes gilt:

1. 1st Z(p) 2 2 , so ist F [ z l , p ] (z4) = 0 . 2. 1st I, = l y , so ist F [ z l , p ] (24) = 0 .

3. 1st p = y o , so ist F[zl, p ] (24) = 0 .

4. F[z l , p ] (z4) > 0 hochstens dann, wenn p an genau zwei Stellen den Buch-

Also ist

staben 1 enthalt.

F [ G , p ] (z4) > 0 hochstens dann, wenn p = O n l O k l mit n 2 1 .

5. Es sei p = O n l l (n 2 1) . D a m ist

F[z l , O n l l ] (24) =

6. Es sei p = OnlO' l mit n, k 2 1 . Dann ist

l j 2 . 6 = A( h fur n > 1 und F[xl, 0111 (24) = A.

F[z l , p ] ( ~ 4 ) = F [ 9 , on-l 10~11 (24)

- - F [ 9 , lok 11 (24) + (1 - c - l ) F [ z ~ , 1 0 ~ 1 1 (24)

= .?-l . 1/2 F [ z ~ , okl] (24) + 8n-I 1/2 . F [ z ~ , okl] (24) + + (1 - - 1/2 F [ z S , O k l ] (z4)

= F [ z ~ , okl] (24) ( 1 / 2 ~ - ~ + 1/2(1 - + ip. en-' . b

= 112 F [27, ok-l 1 I ( 24 )+@-*A = 1 / 2 ~ [ 2 7 , ok-9 ( ~ 3 ) . 6 + ~ n - l . il = 1 ( 1 - E k - 1 +&'+I).

Also ist bei n 2 1 , k 2 1

und wir haben: P[z l , On lok 11 (x4) = il genau dann, wenn n = k ,

E,=A = { O n l O n l I n > l} ~ { O l l } .

Diese Menge ist aber irregular.

Ferner ist offensichtlich E,> 2 = {On lok 1 I k > n 2 I } , also ebenfalls irreguliir. SchlieBlich ist E , < a = [ W ( X ) \ {e}] \ [{On Id" 1 I k 2 n 2 l} LJ (0 1 l}] als relati- ves Komplement einer irreguliiren Menge irregular.

W e n n 1 / 2 < L < l , d a n n i s t O < l - - i l < 1 / 2 . W i r s e t z e n 6 = 2 - 2 i l u n d e r - halten mit derselben Konstruktion ein stochastisches Ereignis 91 mit :

E , > l - l , E p < l - ~ , E,=l-2 sind irregular. 5 Ztschr. f . math. Logik

66 PETER H. STARXE

Mit p ist auch p = 1 - y in einem endlichen stochastischen Automaten darstellbar, und es sind die Mengen

irregular. @ leistet also das Verlangte.

S a t z 7. 1st 9 ein stochastisches Ereignis iiber S, das nur endlieh vie2e versehiedene Werte annehmen kann, dann ist p in einem endlichen stochastischen Automaten dar- stellbar genau dann, wenn fur jedes R E (0, 1) die Menge E,,, regular ist .

Beweis. Es seien A,, A,, . . . , A,. die moglichen Werte von p, wobei 0 2 Al < <A,< . . - < 1 , r > l .

I. Es sei p in einem endlichen stochastischen Automaten darstellbar. Wcnn A E ( 0 , l ) , dann ist R schwach-isoliert beziiglich p, also ist E,=, regular.

11. Fur beliebiges A E (0, 1) sei E,=, eine regulare Menge. Dann ist das System {E,,,, I e = 1 , . . . , r } eine Zerlegung der Menge W ( X ) \ (e} in regulare Mengen. Es gibt also einen endlichen initialen determinierten Automaten [ X , 2 , f , zO] und Mengen M ,

E,,l-, = E,<A, E,<,-, = Eq>A, E,=,-A = E+A

2 ( e = 1 , . . ., r ) mit:

(a) M i n M j = $ 3 f i i r l g i , j g r , i = l = j ; r

(b) U M , = Z \ { z 0 } ; e=1

(c) Fur jedes p E W ( X ) \ {e} gilt:

(1) f ( z o , p ) =I: zo; ( 2 ) p E Ea=~,- f ( z0 , p ) E N , bei beliebigem e = 1 , . . ., r .

Zu dem Zustandsalphabet 2 bilden wir das ,,Doppelgangeralphabet" 2, das die ,,Doppelganger" E der Zustandsbuchstaben z E 2 enthalt. Es sei Z* = 2 u (2 \ {Z,}) . Auf der Menge Z* x X definiercn wir ein Uberfuhrungsfunktional F* wie folgt: Fur z € Z , z E X sei

A,, falls E* = f ( z , X) und f ( z , z) E M , , 1 - A,, falls z* = f ( z , 2) und f ( z , z) E M,; F*[z , x] (z*) = F*[2,2] (z*) =

10, sonst.

Es ist klar, daB 2( = [ X , Z*, F*, zO] ein endlicher initialer stochastischer Automat (ohne Ausgabe) ist. Offenbar gilt: Fur jedes p E W ( X ) ist -F*[zo7 p ] (z*) $. 0 hochstens bei z* = f (zo, p ) oder z* = f ( z o , p ) .

Wir behaupten nun, daB das stochastische Ereignis p in dem stochastischen Auto- maten ?( durch die Menge 2 2 Z* dargestellt wird. Es sei p z € W ( X ) \ {e} . Es gilt:

STOCHASTISCHE EREIQNISSE UND WORTMENGEN 67

Nach Definition von F* gilt fur jedes Q = 1, . . . , r :

F * [ / ( Z , , P ) , si ( f ( ~ , , p Z ) ) = a,-f(z,,p2) E M , -px E E,=a, - Y ( P 4 = 2,.

Also ist p ( p z ) = 2 F*[z,,px] ( x ' ) , was zu zeigen war. 2' E Z

Folge r ungen.

(1) 1st 9 ein stochastisches Ereignis, das nur endlich viele Werte annehmen kann, dann kann 'p in einem endlichen initialen stochastischen Automaten genau dann dargestellt werden, wenn fur alle A mit 0 2 A < 1 die Menge E,>A regular ist.

(2) 1st a) ein stochastisches Ereignis, das nur endlich viele Werte annehmen kann, so kann 'p in einem endlichen initialen stochastischen Automaten genau dann dargestellt werden, wenn fur alle 1 mit 0 < 1s 1 die Menge E,, A regular ist.

Bemerkung. Ein stochastisches Ereignis besitzt genau dann nur endlich vide Werte, wenn jedes 1 aus ( 0 , 1) schwach-isoliert in bezug auf dieses Ereignis ist.

Sa t z 8. Zu jeder nichtleeren hochstens abzahlbar unendlichen Menge X und jedem I* rnit 0 < A* < 1 gibt es e i n stochastisches Ereignis iiber X mit:

(A) F u r jedes A mit 0 2 1 5 1 ist E,=A regular; (B) Die Mengen E,>A* und EP<a* sind irregular.

und betrachten das stochastische Ereignis 9 uber X mit:

A' Beweis: 0. B. d. A. sei 0 E X. Wir wahlen ein A' mit 0 <

falls p E W ( X ) . [ X \ {O}] . W ( X ) ;

< A* < 2' < 1

1 - - Y A' + 2" , falls p = On, n 2 1 , n eine Quadratzahl; -Y

q(F4 =

falls p = On, n 2 1 , n keine Quadratzahl. - 2" J

Dabei gilt: E,=,, = W ( X ) . [X \ {O}] . W ( X ) , und fur 0 < 15 1 ist 1 - , Y I' {On}, falls es ein n 2 1 gibt, so dal3 1 E { 1' + __- 2n 7 F];

g, sonst. E q = ~ =

Die Bedingung (A) ist also erfullt. Ferner gilt, wie man sich leicht uberzeugt:

Ev,A* = E,> , . = {On I n 2 1 , n eine Quadratzahl},

E , < I* = E a' = {On 1 n 2 1 , n keine Quadratzahl} . rn<T

Die Bedingung (B) ist also ebenfalls erfullt.

B emerkung. Das angegebene Ereigais y kann in keinem endlichen initialen stochastischen Automaten dargestellt werden, denn A* ist isoliert, bezuglich v, abcr E,>A* ist irregular. Also ist die Bedingung (A) weder hinreichend noch not- wendig dafur, daIj ein stochastisches Ereignis in eincm endlichen initialen sto- chastischen Automaten darstellbar ist.

5*

68 PETER H. STABKE

Sa t z 9. Bu jeder nichtleeren, hochstens abzahlbar unendlichen Menge X und jedem A* init 0 < A* ( C ) Fur alle A mit 0 2 A < 1 ist E,, 1 regular; (D) Die Mengen E p = L . und E p < ~ . sind irregular.

Beweix. 0. B. d. A. sei 0 E X , ferner E = {01* 1 n 2 1 , n eine Quadratzahl) und f iir alle k 2 1 : E,. = {Om I m 4 k , m keine Quadratzahl} . Dann gilt fur alle k 2 1 : E 4 E, ist regular, E ist irregular, E k ist irregular, EL 1 Ek+,, und

1 gibt es e i n stochastisches Ereignis p, iiber X m i t :

{Ok}), falls k keine Quadratzahl ist, $3, sonst. Ek\ Ek+l =

Wir definieren fur p E W ( X ) \ {e} :

falls p E E ;

q ( p ) = 1 I A* I*, (1 - &) , falls p c E,, \ ~ , & + 1 ;

0, sonst.

Dabei gilt: E,=l* = E ist irregular; fur alle A rnit A* 5 As 1 ist, E,, 1 = 0, also regular .

Es sei 0 2 A < A* und k die kleinste naturliche Zahl mit A < A* (1 - 7).

Dann ist,, wie man sich leicht iiberzeugt, EP>>- = E u E k , also regular. Ebenso leicht zeigt man, daR E,<,; irregular ist.

Bemerkung. Es muR A* -I= 0 sein, denn E,>, ist, regullir und damit auch Eve,,. Wegen Satz 7 mu13 ~1 nnendlich viele Werte besitzen. A* mu13 ein Haufungspunkt ::van links" des Nachbereichs von p, sein, denn sonst gibt es ein A** rnit A** < I*. so daR E p S x = 0 fur alle A' rnit A** 2 A'< A* ist. Dann ist aber Eq=L* =

= E,p > \ E , > also rcgular. Ganz analog kann man zeigen, daR es xu jeder nicht- leeren, hochstens abzahlbar unendlichen Menge X und zu jedem A* mit 0 5 A* < 1 ein skochastisches Ereignis (E) Fur jedes A mit 0 < As 1 ist E , < A regular; (F) Die Mengen EVE, . und E,,,>L* sind irregular. Die Bedingungen (C) und (E) sind also voneinander unabhangig. Offensichtlich ist (C) genau dann hinreichend dafur, daR q in einem endlichen initialen stochasti- schen Automaten darstellbar ist, wenn (E) dafur hinreichend ist,. Ob eine cler Bc- dingungen (C) oder (E) dafur hinreichend ist, ist offen.

1

gibt mit, :

Literatur [I] M. 0. RABIN, Probabilistic Automata. Information and Control 6 (1963), 230-245. [2] P. H. STARKE, Theorie stochastischer Automaten I, 11. Elektronische Informationsrerarbei-

[3] M. 0. RABIN, D. SCOTT, Finite Automata and their Decision Problems. IBM J. Ites. Devel.

[4] P. H. STARKE, Einige Bemerkungen iiber nicht-deterministisohe Automaten. Erscheint dem-

tung und Kybernetik I (1965), 5-32, 71-98.

3 (1959), 114-125.

nlichst in Elektronische Informationsverarbeitung und Kybernetik.

(Eingegangen am 19. Juli 1965)