Kursplan för
Den smarta stadens styrning: AI och etik i en spatial kontext
Smart City Governance: AI Ethics in a Spatial Context
TFRP60, 7,5 högskolepoäng, A (Avancerad nivå)
Gäller för: LTH:s fristående kurser HT2021
Beslutad av: Programledning L
Beslutsdatum: 2021-02-26
Allmänna uppgifter
Undervisningsspråk: Kursen ges på engelska
Syfte
Artificiell intelligens (AI) används alltmer för att
förändra våra städer och hantera trafik och rörelse,
tillgodose handelns behov, motverka brottslighet, övervaka
individer och förbättra vår vardag. Men rättsliga, demokratiska
och etiska intresseavvägningar behöver samtidigt balanseras mot
tekniska behov av optimering. Hur väger man individers integritet
mot lärande teknologiers (maskininlärning/AI) beroende av mycket
data? Hur ser lagstiftningen ut och vilka etiska riktlinjer bör
man förhålla sig till? Vilken grad av förklarbarhet och
transparens är rimlig gentemot medborgare, och på vilket sätt
skiljer sig förväntningar och upplevda nyttor i olika delar av
världen?
I linje med behov av ansvarsfull design och etisk reflektion
kring digitalisering syftar denna kurs till att ge förståelse
för den roll individers data och autonoma och självlärande
teknologier (artificiell intelligens) spelar i en urban och spatial
kontext. Genom att titta på konkreta och i huvudsak
internationella fall av utveckling och styrning av s.k. smarta
städer, inklusive applikationer som ansiktsigenkänning i publika
miljöer eller hur ”staden som plattform” fått genomslag i
stadsbyggnad, kan förståelse och kunskap nås om vilka intressen
som behöver balanseras och vilken rättslig styrning som är
rimlig för hantering av individers data i en urban kontext.
Kursen ska därmed i generell mening ge insikter i betydelsen av
digitalisering och nya teknologiers samhälleliga betydelse med
fokus på rättsliga och etiska utmaningar, med specifikt fokus på
städer och spatiala kontexter. Det inkluderar fenomen som
datafiering och insamling av stora individbaserade datamängder,
digitala plattformars framväxt och betydelse, och autonoma och
självlärande teknologier inom AI-fältet – och de krafter som
verkar däri mellan privata och internationella såväl som
offentliga och nationella aktörer. Kursen är således ämnad för
att ge teknikvetare och ingenjörer en fördjupad kunskap om
konsekvenser av hur teknik appliceras i, och samspelar med,
samhället – med fokus på s.k. smarta städer, styrning och
etik.
Mål
Kunskap och förståelse
För godkänd kurs skall studenten
- kunna redogöra för teoretiska ramverk om digitala plattformar
och smarta städer
- behärska grundläggande engelsk terminologi inom kritisk
samhällsvetenskaplig forskning om artificiell intelligens, med
fokus på fältet Fairness, Accountability och Transparency
(FAT).
- visa på en grundläggande förståelse för digitala och
datadrivna affärsmodeller och dess betydelse för design och
teknikutveckling
- visa på en grundläggande förståelse för de mest centrala
rättsliga avvägningarna inom urban datainsamling och användning
av AI i en spatial kontext
Färdighet och förmåga
För godkänd kurs skall studenten
- kunna beskriva det europeiska dataskyddets grundläggande
innehåll och betydelse för datainsamling i en spatial
kontext
- kunna beskriva centrala nyttor men också konfliktytor som
utvecklingen mot s.k. smarta städer medför
- förstå, analysera och beskriva stadsbyggnadsutmaningar i
ljuset av etisk och rättslig styrning av smarta städer i en
global kontext
- kunna presentera sitt projektarbete (uppsats) muntligt och
opponera på annan uppsats.
Värderingsförmåga och förhållningssätt
För godkänd kurs skall studenten
- visa ett kritiskt, självständigt och flervetenskapligt
förhållningssätt till datainsamling och automation i urbana
miljöer.
- kunna göra trovärdiga avvägningar mellan olika intressen i
urbant implementerad artificiell intelligens, med särskilt fokus
på rättsliga och etiska förhållningssätt.
Kursinnehåll
Kursen är upplagd som en föreläsnings- och seminarieserie,
samt självständigt skriftligt arbete i mindre grupp utifrån
konkreta utvecklingsprojekt/fall där AI och data är centrala för
stadsbyggande eller planering. Kursen erbjuder gästföreläsningar
från både flervetenskapliga och praktiknära fält, där exv.
stadsrepresentanter presenterar sitt arbete och sina utmaningar med
digitalisering, och användning av autonoma och självlärande
teknologier.
Följande moment behandlas:
- AI och maskininlärning, vad innebär fältet(/n) och hur ser
appliceringen på urbana miljöer ut;
- Grunderna i tillförlitlig artificiell intelligens –
transparens, fairness, ansvar och förklarbarhet: hur kunde en
tillförlitlig användning se ut?
- Digitala plattformar och plattformisering: vad innebär en
datadrivna organisationsform i allmänhet, och för en spatial
kontext i synnerhet?
- Det europeiska dataskyddets grunder, i allmänhet, och för en
spatial kontext i synnerhet
- AI governance - hur ser regleringsidéerna ut för utveckling
och applicering av AI, både som regleringsform men också i form
av etiska riktlinjer
- Internationella fall, såväl som svenska, på s.k. smarta
städer och deras utveckling presenteras och problematiseras.
Kursens examination
Betygsskala: UG - (U,G) - (Underkänd, Godkänd)
Prestationsbedömning: Obligatorisk närvaro på övningar/seminarier, inkl inlämningsuppgift i grupp. Avslutande skriftlig och muntlig redovisning i grupp under publikt seminarium. Vid avslutande presentation förväntas man opponera på annan uppsats/presentation. Vid seminariet närvarar både kursföreståndare och extern föreläsare, i den mån det är möjligt, för att kommentera på presentation och uppsats.
Om så krävs för att en student med varaktig funktionsnedsättning ska ges ett likvärdigt examinationsalternativ jämfört med en student utan funktionsnedsättning, så kan examinator efter samråd med universitetets avdelning för pedagogiskt stöd fatta beslut om alternativ examinationsform för berörd student.
Antagningsuppgifter
Förkunskapskrav:
- Minst 90 hp inom ett ämnesområde. Minst 7,5 hp ska vara av samhällsorienterande karaktär.
Engelska 6
Förtur: Om det finns fler sökande än det maximala antalet som kursen tillåter, kommer platserna att fördelas baserat på antalet avslutade högskolepoäng.
Kursen överlappar följande kurser: VFTN75
Kurslitteratur
- High-Level Expert Group on AI: Ethics Guidelines for Trustworthy AI. EU Commission, 2019.
- Kitchin, R., Cardullo, P., and Di Feliciantonio, C. : Citizenship, Justice, and the Right to the Smart City. Emerald Publishing, 2019.
- Brauneis, R., & Goodman, E. P. (2018). Algorithmic transparency for the smart city. Yale JL & Tech., 20, 103. https://heinonline.org/HOL/Page?handle=hein.journals/yjolt20&div=4&g_sent=1&casa_token=&collection=journals.
- Cardullo, P., & Kitchin, R. (2019). Being a ‘citizen’in the smart city: up and down the scaffold of smart citizen participation in Dublin, Ireland. GeoJournal, 84(1), 1-13. http://mural.maynoothuniversity.ie/9228/1/RK-Being-2017.pdf.
- Goodman, E. P., & Powles, J. (2019). Urbanism under google: Lessons from sidewalk Toronto. Fordham L. Rev., 88, 457. https://heinonline.org/HOL/Page?handle=hein.journals/flr88&div=19&g_sent=1&casa_token=&collection=journals.
- Kitchin, R., Cardullo, P., and Di Feliciantonio, C. (2019) “Citizenship, Justice, and the Right to the Smart City”, in Cardullo et al., eds. The Right to the Smart City, Emerald Publishing, First edition, pp. 1-24. http://www.kitchin.org/wp-content/uploads/2019/04/PCP-WP-41-citizenship-social-justice-and-right-to-the-smart-city.pdf.
- Larsson, S. & Heintz, F. (2020) Transparency in Artificial Intelligence, Internet Policy Review.
- Schwarz, J. A., & Larsson, S. (2018). A Platform Society. In Developing Platform Economies: A European Policy Landscape (pp. 114-140). European Liberal Forum asbl. http://lup.lub.lu.se/search/ws/files/55024264/Andersson_Schwarz_Larsson_2018_A_Platform_Society.pdf.
- Docherty, Iain, Greg Marsden & Jillian Anable (2018). “The governance of smart mobility”, Transportation Research Part A: Policy and Practice, 115, 114–125. https://doi.org/10.1016/j.tra.2017.09.012.
- Goodman, E. P. (2019). Smart city ethics: the challenge to democratic governance. In The Oxford Handbook of Ethics of AI. https://papers.ssrn.com/sol3/Papers.cfm?abstract_id=3391388.
- Larsson, S. (2021) “AI in the EU: Ethical Guidelines as a Governance Tool”, chapter in Bakardjieva Engelbrekt, Leijon, Michalski & Oxelheim (eds.) The European Union and the Technology Shift. Cham, Switzerland: Palgrave Macmillan.
- Jesse W. Woo, Smart Cities Pose Privacy Risks and Other Problems, but That Doesn't Mean We Shouldn't Build Them, 85 UMKC L. REV. 953 (2017), accessible here: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3040397.
- There will be extra handouts specifically linked to guest lectures as well.
Kontaktinfo och övrigt
Kursansvarig: Stefan Larsson, stefan.larsson@lth.lu.se