Rhagfarn ac annhegwch mewn algorithmau

Mae Joy Buolamwini yn ‘fardd cod’ sydd wedi ymchwilio rhagfarn ac annhegwch mewn algorithmau.

Meddalwedd sydd fod adnabod gwynebau ar gamera ond yn methu adnabod gwynebau croenddu yw’r enghraifft cyntaf yn ei araith yma.

Engrheifftiau eraill mewn lluniau: fe drwsiwyd FaceApp er mwyn cael gwared â phroblem o ‘algorithm hiliol’. Roedd angen i Google ymddiheuro am fod eu system wedi tagio dau berson groenddu fel gorilas.

Yn ôl Buolamwini, ‘y person sy’n cael creu’r system yn cael mewnosod ei barn/farn‘.

Dw i’n dychmygu y bydd y problemau yn cynyddu tra bod rhagor o systemau dysgu peirianyddol yn cael eu defnyddio, yn enwedig os mae’r systemau wedi cael ei hyfforddi gyda setiau cyfyngedig o ddata.

Mae’n debyg y byddan ni’n gweld achosion o bobl yn methu cael yswiriant, swyddi a chyfleoedd eraill oherwydd penderfyniadau gan beiriannau. Wrth gwrs fydd hi ddim wastad yn amlwg i’r person sydd yn dioddef. Er enghraifft byddai rhywun yn clywed bod e/hi heb lwyddo i ennill cyfweliad am swydd ond fydd hi ddim yn amlwg bod system wedi dehongi ei CV neu ddata bersonol mewn ffordd ragfarnllyd.

Mae Buolamwini wedi cael sawl profiad personol o ragfarn mewn algorithmau ers blynyddoedd ac wedi ysgrifennu eithaf tipyn o erthyglau am hyn. Yn ogystal mae hi’n cyfeirio at lyfr o’r enw Weapons of Math Destruction gan Cathy O’Neil.

Mae’r gwaith wedi arwain at fudiad o’r enw Algorithmic Justice League a sefydlwyd gan Buolamwini eleni er mwyn casglu rhagor o achosion ac ymgyrchu dros degwch mewn algorithmau.

Dw i wrthi’n ceisio deall yr union ddiffiniad o ‘ragfarn mewn algorithmau’.

Fe ges i gyfarfod gyda swyddogion Google yn Llundain sbêl yn ôl i drafod eu polisïau nhw o ran y Gymraeg, nid yn unig mewn rhyngwynebau ond diffygion sy’n gallu cael eu hystyried fel rhai algorithmig megis statws y Gymraeg ar ganlyniadau chwilio ac o bosib y broses o adeiladu’r mynegai.

Ydy hyn yn berthnasol i’r sgwrs am ragfarn mewn algorithmau? Mae Rhodri ap Dyfrig wedi sôn am hyn.

Yn y bôn ‘dydy cefnogi’r Gymraeg yn iawn ddim yn werth chweil yn fasnachol i ni’ oedd ymateb Google. Mae hi’n bwysig nad ydyn ni’n ildio i’r syniad bod angen i ni greu rhagor o gynnwys Cymraeg er mwyn cyrraedd radar Google a chwmnïau eraill. Er enghraifft mae creu rhagor o erthyglau Wicipedia ac ati yn Gymraeg yn beth da yn ei hun. Mae Google wedi gwneud digon o arian yng Nghymru eisoes ac wedi mwynhau ffafr llywodraeth San Steffan ac awdurdodau eraill mewn sawl ffordd. Dylen ni hefyd cydnabod bod unrhyw ‘feini prawf’ o’r fath megis nifer o erthyglau Wicipedia neu beth bynnag yn hollol, hollol fympwyol.

Beth am feddalwedd yr iPhone (a systemau eraill) sy’n mynnu ‘cywiro’ eich geiriau oherwydd diffyg geiriaduron Cymraeg? Mae sôn hefyd am yr ‘exclusion overhead’, yr ymdrech mae’n rhaid i ddefnyddwyr wneud er mwyn cael meddalwedd i weithio’n iawn tra bod ‘na diffygion dal yn y system.

Pa wers y mae plant yn dysgu bob tro mae bysellfwrdd neu brosesydd geiriau yn newid y gair ‘i’ ac yn mewnosod ‘I’ yn lle yn awtomatig, er enghraifft?

Beth am fformiwla ffrwd Facebook? Pa mor effeithiol ydy systemau fel hyn gyda chynnwys Cymraeg, geiriau Cymraeg, treigladau? Mae hi’n anodd dadansoddi hyn.

Efallai bod yr Echo ac Alexa yn berthnasol yma er bod cwmni Amazon wedi dweud yn blwmp ac yn blaen bod y peiriant ond yn deall dwy iaith, Almaeneg a Saesneg!

Fyddwn i ddim yn synnu pa tasai pobl yn canfod sawl achos o ragfarn ieithyddol mewn algorithmau o fewn sawl gwasanaeth, ‘rhagfarn’ sy’n gweithio yn erbyn ieithoedd lleiafrifedig o gwmpas y byd.

Gadewch wybod yn y sylwadau os ydych chi’n ymwybodol o unrhyw rai.