Mae gwyddonwyr sy'n cydosod deallusrwydd artiffisial a thechnegau ymreolaethol yn dymuno cael dealltwriaeth foesegol gadarn o'r effaith y gallai eu gwaith ei chael.
Yn ddiweddar, rhyddhaodd dros 100 o arloeswyr technoleg lythyr agored i'r Cenhedloedd Unedig ynghylch pwnc arfau ymreolaethol marwol, neu "robotiaid llofrudd".
Mae'r bobl hyn, er enghraifft, yr entrepreneur Elon Musk ynghyd â chrewyr llawer o gwmnïau roboteg hefyd, yn rhan o'r ymdrech a ddechreuodd yn 2015. Roedd y llythyr yn galw am ddiwedd i ras arfau yr honnodd y gallai fod y "trydydd chwyldro yn rhyfela, yn dilyn powdwr gwn a breichiau atomig ".
Mae gan y Cenhedloedd Unedig ran i'w pherfformio, ond mae angen i'r cyfrifoldeb am ddyfodol agos y systemau hyn ddechrau o'r labordy hefyd. Mae angen i'r system addysg sy'n hyfforddi ein hymchwilwyr AI eu haddysgu mewn moeseg yn ogystal â chodio.
Ymreolaeth yn AI
Gall systemau ymreolaethol wneud penderfyniadau drostynt eu hunain, heb lawer o fewnbwn gan bobl. Mae hyn yn cynyddu effeithiolrwydd robotiaid a dyfeisiau tebyg yn fawr.
Er enghraifft, dim ond y cyfeiriad cludo sydd ei angen ar drôn cludo ymreolaethol, ac yna gall weithio allan drosto'i hun mai'r llwybr gorau i'w gymryd - gan oresgyn unrhyw rwystrau y gallai ddod ar eu traws ar hyd y ffordd, er enghraifft, tywydd garw neu haid o wylanod chwilfrydig. .
Bu llawer iawn o ymchwil i systemau ymreolaethol, ac mae dronau cludo bellach yn cael eu datblygu gan gwmnïau fel Amazon. Yn amlwg, byddai'n hawdd defnyddio'r un dechnoleg i ddosbarthu nwyddau sy'n sylweddol fwy cas na llyfrau neu fwyd.
Mae dronau hefyd yn mynd yn llai, yn rhatach ac yn gryfach, sy'n golygu y bydd yn bosibl cyn bo hir i fyddinoedd hedfan o filoedd o dronau gael eu cynhyrchu a'u defnyddio.
Ysgogodd y gallu i ddefnyddio rhaglenni arfau fel hyn, a ddatgysylltwyd yn bennaf oddi wrth reolwyr unigol, y llythyr yn annog y Cenhedloedd Unedig i "ddod o hyd i ffordd i'n cysgodi ni i gyd rhag y peryglon hyn".
Moeseg a Chyfiawnhad
Ni waeth eich barn am y systemau arfau hyn, mae'r mater yn tynnu sylw at y gofyniad i ystyried materion moesegol mewn ymchwil AI.
Fel yn y mwyafrif o feysydd mathemateg, mae sicrhau'r dyfnder hanfodol i gynhyrchu cyfraniadau at wybodaeth y blaned yn gofyn am ganolbwyntio ar bwnc penodol. Yn aml, mae ymchwilwyr yn arbenigwyr mewn meysydd cymharol gul ac efallai na fydd ganddynt unrhyw gyfarwyddyd ffurfiol mewn moeseg neu resymu moesol.
Yr union fath o resymu sy'n ofynnol yn gynyddol. Er enghraifft, bydd yn rhaid i gerbydau modur di-yrrwr, sy'n cael eu profi yn yr UD, allu llunio barn am amgylchiadau a allai fod yn niweidiol.
Er enghraifft, sut y gall ymateb os yw cath yn croesi'r ffordd yn annisgwyl? A yw'n ddoethach rhedeg dros y gath, neu hyd yn oed i wyro'n sydyn i'w hatal, gan beryglu niwed i ddeiliaid y car?
Gobeithio y bydd yr achosion hyn yn brin, ond bydd yn rhaid i'r car fod â rhai egwyddorion penodol yn eich meddwl i lywio'r broses o wneud penderfyniadau. Wrth i Virginia Dignum ei osod wrth anfon ei phapur " Ymreolaeth Gyfrifol" yn y Gynhadledd Ryngwladol ar y Cyd ar Ddeallusrwydd Artiffisial (IJCAI) yn Melbourne yn ddiweddar:
Bydd moeseg yn y car heb yrrwr; y cwestiwn yw, Moeseg pwy?
Archwiliwyd thema debyg yn y papur "Automating the Doctrine of Double Effect" gan Naveen Sundar Govindarajulu a Selmer Bringsjord.
Mae'r Athrawiaeth Effaith Ddwbl yn fodd i resymu ynghylch materion moesol, fel y gorau i amddiffyn ei hun o dan rai amgylchiadau, ac mae'n cael ei gredydu i'r ysgolhaig Catholig hwn o'r 13eg ganrif Thomas Aquinas.
Daw'r enw Double Impact o gael effaith fawr (fel achub bywyd rhywun) yn ogystal ag effaith wael (niweidio rhywun arall yn y broses). Gall hyn fod yn ffordd i gyfiawnhau gweithgareddau fel saethu drôn mewn car sy'n rhedeg cerddwyr i lawr.
Beth Mae hyn yn Ei Olygu i Addysg?
Mae ymddangosiad moeseg fel pwnc i'w drafod o fewn ymchwil AI yn awgrymu y dylem hefyd ystyried sut rydym yn paratoi disgyblion ar gyfer byd lle mae systemau ymreolaethol yn fwyfwy cyffredin.
Lansiwyd y galw am unigolion "siâp T" yn ddiweddar. Ar hyn o bryd mae cwmnïau'n chwilio am ysgolheigion nid yn unig â rhanbarth penodol o drwch technegol (strôc fertigol y T) ond hefyd â galluoedd proffesiynol a phriodoleddau personol (y strôc fflat). Gyda'i gilydd, gallant weld materion o wahanol safbwyntiau a gweithredu'n effeithiol mewn timau amlddisgyblaethol.
Mae'r mwyafrif o gyrsiau israddedig mewn gwyddoniaeth gyfrifiadurol a meysydd tebyg yn cynnwys cwrs ar foeseg ac ymarfer proffesiynol. Mae'r rhain fel arfer yn canolbwyntio ar eiddo deallusol, hawlfraint, patentau a materion preifatrwydd, sy'n sicr yn bwysig.
Fodd bynnag, mae'n ymddangos yn glir o'r trafodaethau yn IJCAI bod angen sy'n dod i'r amlwg am ddeunydd ychwanegol ar broblemau moesegol ehangach.
Gallai pynciau gynnwys strategaethau ar gyfer darganfod y lleiaf o 2 ddrygioni, damcaniaethau cyfreithiol fel esgeulustod troseddol, ac effaith hanesyddol technolegau ar y blaned.
Y pwynt allweddol yw caniatáu i ddisgyblion ymgorffori safbwyntiau moesegol a chymdeithasol yn eu gwaith o'r cychwyn cyntaf. Yn ogystal, mae'n ymddangos yn briodol ei gwneud yn ofynnol i gynigion ymchwil ddangos sut mae pryderon moesegol yn cael eu hymgorffori.
Ers i AI ymsefydlu'n ehangach ac yn ddwfn ym mywyd beunyddiol, mae'n bwysig iawn bod technolegwyr yn deall y gymdeithas lle maen nhw'n byw a'r effaith y gall eu creadigaethau ei chael amdani.