Pekerja selalu menghadapi pelacakan pekerja dan pemantauan kinerja ketika motif keuntungan bisnis mendominasi syarat-syarat hubungan kerja, dan pekerja menginginkan kehidupan yang layak dan menyenangkan, dibayar oleh pekerjaan mereka dan komitmen terhadap pemberi kerja dan penyedia upah. Namun saat ini, hubungan kerja sedang berubah, dan terdapat tipe “aktor” baru di tempat kerja. Mesin, baik analog maupun digital, telah digunakan seiring berjalannya waktu untuk membantu perancang tempat kerja menghitung keluaran pekerjaan dan, tentu saja, untuk menggantikan pekerjaan melalui otomatisasi; Kini, melalui integrasi alat dan aplikasi kecerdasan buatan (AI), beberapa mesin mempunyai tanggung jawab baru dan bahkan otonomi, serta diharapkan dapat menampilkan berbagai bentuk kecerdasan manusia dan mengambil keputusan mengenai pekerjanya sendiri.

Gambar 1 menguraikan di mana dan bagaimana teknologi baru diterapkan di tempat kerja; jenis “kecerdasan” yang diharapkan dari teknologi ini; dan kemudian, cara tepat manajemen menggunakan data yang dihasilkan oleh proses teknologi tersebut dengan asumsi jenis intelijen masing-masing. Ada sejumlah cara teknologi terbaru digunakan oleh manajemen seiring dengan peran AI yang menjadi pusat perhatian. Data telah, dan sedang, terakumulasi dari aktivitas calon pekerja dan pekerja dari waktu ke waktu, mulai dari panggilan telepon, penggunaan komputer, masuk dan keluar dengan “kartu pintar,” dan hingga saat ini, bahkan pergerakan fisik dan sentimen, seperti serta penggunaan media sosial yang tepat, dilacak dan dipantau.

Untuk sumber daya manusia, yang disebut “big data” ketika mencapai volume yang cukup besar, kumpulan data digunakan untuk melatih algoritma yang memprediksi kandidat pekerjaan serta bakat dan kemampuan pekerja; memantau, mengukur, dan mendorong kinerja; menetapkan dan menilai hasil kerja; menghubungkan pekerja dengan klien; menilai keadaan keberadaan dan emosi; memberikan pelatihan modular di lantai pabrik; mencari pola di seluruh angkatan kerja, misalnya, penyakit; dan banyak lagi.

Bab ini, sejalan dengan perkembangan tersebut, menguraikan bagaimana AI semakin menjadi bagian dari proses pengambilan keputusan dan mengidentifikasi risiko-risiko yang dihadapi pekerja saat ini, yang harus diakui dan disadari oleh para pembuat kebijakan dan pemangku kepentingan manajemen.

1. PEOPLE ANALYTICS: MANAJEMEN SUMBER DAYA MANUSIA DAN PEMANTAUAN KINERJA

AI saat ini dipandang sebagai arena paling inovatif dan menjanjikan untuk manajemen tempat kerja dan tenaga kerja. Empat puluh persen fungsi sumber daya manusia (SDM) yang diterapkan di seluruh dunia pada perusahaan kecil dan besar kini menggunakan aplikasi yang dilengkapi AI. Perusahaan-perusahaan ini sebagian besar berbasis di AS, namun beberapa organisasi Eropa dan Asia juga ikut bergabung. Survei PricewaterhouseCoopers menunjukkan bahwa semakin banyak bisnis global yang mulai melihat manfaat AI dalam mendukung manajemen tenaga kerja (PwC, 2018). Lebih jauh lagi, diklaim bahwa 32% departemen personalia di perusahaan teknologi dan lainnya sedang mendesain ulang organisasi dengan bantuan AI untuk mengoptimalkan “kemampuan beradaptasi dan pembelajaran untuk mengintegrasikan wawasan yang dikumpulkan dari umpan balik karyawan dan teknologi” (Kar, 2018). Laporan IBM baru-baru ini (IBM, 2018) menunjukkan bahwa separuh dari chief HR officer yang diidentifikasi dalam studi ini mengantisipasi dan mengenali potensi teknologi dalam HR seputar operasi dan akuisisi serta pengembangan bakat. Laporan Deloitte menunjukkan bahwa 71% perusahaan internasional menganggap analisis sumber daya manusia sebagai prioritas utama bagi organisasi mereka (Collins, Fineman, dan Tsuchida, 2017) karena hal ini memungkinkan organisasi untuk tidak hanya memberikan wawasan bisnis yang baik namun juga menangani apa yang disebut sebagai masalah bisnis. “masalah orang.”

“Masalah masyarakat” juga disebut “risiko masyarakat” (Houghton dan Green, 2018). Hal ini mempunyai beberapa dimensi, yang diuraikan dalam laporan Chartered Institute for Personnel Development (CIPD) yang meliputi:

• menejemen kemampuan;
• kesehatan dan keselamatan;
• etika karyawan;
• keberagaman dan kesetaraan;
• hubungan karyawan;
• keberlangsungan bisnis;
• risiko reputasi (Houghton dan Green, 2018).

“Analisis sumber daya manusia” adalah praktik SDM yang semakin populer, di mana data besar dan alat digital digunakan untuk “mengukur, melaporkan, dan memahami kinerja karyawan, aspek perencanaan tenaga kerja, manajemen bakat, dan manajemen operasional” (Collins, Fineman, dan Tsuchida, 2017). Setiap sektor dan organisasi memerlukan SDM yang bertanggung jawab atas segala hal mulai dari aktivitas rekrutmen hingga penyiapan kontrak kerja hingga pengelolaan hubungan antara pekerja dan pemberi kerja.

Jelas terdapat kesenjangan dalam peran SDM, dimana beberapa orang berpendapat bahwa fungsinya hanya bersifat birokratis, sementara yang lain menyatakan bahwa HR harus memainkan peran penting dalam operasional dan pelaksanaan bisnis. Praktik analisis sumber daya manusia merupakan bagian dari kedua tingkat SDM, di mana komputerisasi, pengumpulan data, dan alat pemantauan memungkinkan organisasi untuk melakukan “analisis real-time pada titik yang diperlukan dalam proses bisnis… [dan memungkinkan] pemahaman yang lebih mendalam mengenai permasalahan dan tindakan yang dapat dilakukan. wawasan untuk bisnis” (ibid.). Algoritme prediksi yang diterapkan untuk proses ini sering kali berada dalam “kotak hitam” (Pasquale, 2015), di mana orang tidak sepenuhnya memahami cara kerjanya, namun meskipun demikian, program komputer diberi wewenang untuk membuat “prediksi dengan pengecualian” (Agarwal et al., 2018). “Prediksi dengan pengecualian” mengacu pada proses di mana komputer menangani kumpulan data yang besar dan mampu membuat prediksi yang andal berdasarkan data rutin dan reguler, tetapi juga untuk mengenali outlier dan bahkan mengirimkan pemberitahuan yang “memberi tahu” pengguna bahwa pemeriksaan harus dilakukan, atau apakah bantuan manusia atau intervensi harus diberikan.

Analisis sumber daya manusia adalah praktik SDM yang semakin populer yang menggunakan data besar dan alat digital untuk “mengukur, melaporkan, dan memahami kinerja karyawan, aspek perencanaan tenaga kerja, manajemen bakat, dan manajemen operasional”

Juga disebut “analisis manusia”, “analisis bakat”, dan “analisis sumber daya manusia”, analisis sumber daya manusia didefinisikan secara luas sebagai penggunaan data individual tentang orang-orang untuk membantu manajemen dan profesional SDM membuat keputusan mengenai perekrutan, yaitu siapa yang akan dipekerjakan; dalam penilaian pekerja dan pertimbangan promosi; untuk mengidentifikasi kapan orang akan meninggalkan pekerjaannya; dan memilih pemimpin masa depan. Analisis manusia juga digunakan untuk mengelola kinerja pekerja. Pertama, bagian ini membahas aspek manajemen sumber daya manusia dari analisis sumber daya manusia, tempat terjadinya rekrutmen dan prediksi bakat. Kedua, manajemen kinerja dengan menggunakan analisis sumber daya manusia diuraikan.

1.1 Manajemen Sumber Daya Manusia

Praktik SDM yang ditingkatkan dengan AI dapat membantu para manajer memperoleh kebijaksanaan yang objektif mengenai karyawan bahkan sebelum mereka mempekerjakan mereka, selama manajemen memiliki akses terhadap data tentang calon pekerja, yang memiliki implikasi signifikan dalam menyesuaikan perlindungan pekerja dan mencegah pekerjaan, keselamatan, dan kesehatan kerja (K3). ) risiko di tingkat individu. Idealnya, alat analisis sumber daya manusia dapat membantu pengusaha dalam mengambil keputusan yang baik mengenai pekerja. Memang benar, pengambilan keputusan algoritmik dalam analisis sumber daya manusia dapat digunakan untuk mendukung tenaga kerja dengan menyelaraskan umpan balik kinerja karyawan dan gaji kinerja, serta biaya tenaga kerja, dengan strategi bisnis dan dukungan untuk pekerja tertentu (Aral et al., 2012, dikutip dalam Houghton dan Green, 2018, hal.5). Pekerja harus diberdayakan secara pribadi melalui akses terhadap bentuk data baru yang membantu mereka mengidentifikasi area perbaikan, merangsang pengembangan pribadi, dan mencapai keterlibatan yang lebih tinggi.

Ada beberapa perbedaan mengenai peran SDM. Meskipun ada yang berpendapat bahwa fungsinya hanya bersifat birokratis, ada pula yang berpendapat bahwa lembaga tersebut harus memainkan peran penting dalam operasional dan pelaksanaan bisnis

Bentuk lain dari analisis manusia melibatkan wawancara kerja yang difilmkan, di mana AI digunakan untuk menilai isyarat verbal dan nonverbal. Salah satu produk tersebut dibuat oleh grup bernama HireVue dan digunakan oleh lebih dari 600 perusahaan. Praktik ini dilakukan oleh organisasi-organisasi termasuk Nike, Unilever, dan Atlantic Public Schools, yang menggunakan produk yang memungkinkan pemberi kerja mewawancarai kandidat di depan kamera. Tujuannya adalah untuk mengurangi bias yang dapat terjadi jika, misalnya, tingkat energi orang yang diwawancara rendah, atau jika manajer perekrutan lebih tertarik pada wawancara berdasarkan kesamaan, misalnya usia, ras, dan demografi terkait. Namun, bukti telah muncul bahwa preferensi dari manajer perekrutan sebelumnya tercermin dalam perekrutan, dan laki-laki kulit putih heteroseksual, menurut laporan Business Insider, memiliki preferensi perekrutan yang  ceteris paribus  (Feloni, 2017). Jika data yang diberikan ke suatu algoritme mencerminkan bias dominan yang tercermin dari waktu ke waktu, maka algoritme tersebut mungkin akan memberi skor lebih tinggi pada seseorang dengan ekspresi wajah “dalam kelompok” dan menilai isyarat lain yang terkait dengan orientasi seksual, usia, dan jenis kelamin yang tidak menyerupai pria kulit putih, lebih rendah. .

1.2 Manajemen Kinerja

Meskipun manajemen kinerja terlihat di sebagian besar tempat kerja, ada ratusan metode yang telah dicoba dan diuji selama bertahun-tahun. Mungkin era yang paling terkenal ketika manajemen kinerja mulai menggunakan teknologi untuk mengambil keputusan mengenai kinerja pekerja di dunia industri adalah periode manajemen ilmiah. Industrialis terkenal Taylor dan Gilbreth merancang skema untuk memahami produktivitas tempat kerja yang terkait dengan tindakan manusia yang spesifik dan terukur di tempat kerja. Para industrialis ini mencari metode ilmiah untuk mengidentifikasi dan menggambarkan gerakan tubuh yang sempurna untuk perilaku produktif yang ideal melalui desain kerja yang berteknologi.

Pada tahun 1927 Liga Bangsa-Bangsa menerbitkan makalah dari Konferensi Ekonomi Internasional tahun 1927 yang berjudul “Manajemen Ilmiah di Eropa.” Laporan ini dicetak pada periode antar perang, ketika negara-negara berusaha sekuat tenaga untuk membentuk organisasi yang saling bergantung dan membangun iklim kerja sama untuk mengurangi kemungkinan terjadinya perang lebih lanjut. Menariknya, standarisasi praktik industri dianjurkan dalam laporan ini, dan manajemen ilmiah digembar-gemborkan sebagai bidang yang “ par excellence  untuk kerjasama internasional.” Memang, pada konferensi tersebut, manajemen ilmiah didefinisikan sebagai:

…ilmu yang mempelajari hubungan antara berbagai faktor dalam produksi, dan khususnya antara faktor manusia dan faktor mekanis. Tujuannya adalah untuk memperoleh, melalui pemanfaatan rasional berbagai faktor tersebut, keluaran yang optimal.

Jadi, Taylorisme bukan hanya sebuah proyek manajemen kinerja pekerja namun memiliki kewenangan dan ideologi yang lebih besar. Kantor Perburuhan Internasional melaporkan bahwa manajemen ilmiah telah “melampaui batas-batas yang awalnya diterapkan oleh Taylor” dan rekomendasi serta praktiknya “kini mencakup semua departemen di pabrik, semua bentuk manufaktur, semua bentuk kegiatan ekonomi, perbankan, perdagangan, pertanian dan administrasi pelayanan publik.”

Melihat gerakan mikro dengan menggunakan serangkaian perangkat teknologi termasuk kamera yang digerakkan oleh pegas, kamera yang digerakkan oleh motor listrik, dan mikrokronometer, yang merupakan instrumen untuk mengukur interval waktu yang sangat kecil, para ilmuwan ini mencari “yang terbaik” yang diharapkan. cara” untuk melakukan pekerjaan di pemasangan batu bata dan di pabrik baja. Gilbreths juga mengukur detak jantung pekerja menggunakan stetoskop dan stopwatch—sebuah gambaran pengukuran detak jantung yang terlihat pada ban lengan kebugaran yang semakin banyak digunakan dalam inisiatif di tempat kerja saat ini (Moore, 2018a).

Terdapat banyak literatur tentang manajemen kinerja, mungkin dimulai dengan  manajemen ilmiah , yang muncul dari berbagai disiplin ilmu, mulai dari psikologi organisasi, sosiologi, sosiologi kerja, dan studi manajemen kritis, di mana para peneliti mengamati cara-cara organisasi mencoba menyeimbangkan produktivitas dengan produktivitas. pengelolaan aktivitas pekerja dan untuk mengatur berbagai mekanisme yang melingkupi proses ini.

Aliran  hubungan manusia  mengikuti manajemen ilmiah, diikuti oleh  rasionalisme sistem  yang didominasi oleh “riset operasi”, diikuti oleh  budaya organisasi dan  periode sejarah desain kerja yang berkualitas, dan sekarang era yang saya sebut  sistem manajemen agility  (Moore, 2018a). Setiap periode sejarah desain pekerjaan melibatkan upaya untuk mengidentifikasi logika perhitungan “terbaik”, di mana manajemen kinerja (PM) adalah praktik kalkulatif yang juga tertanam secara institusional dan transformatif secara sosial. Cara menghitung perilaku pekerja semakin banyak didasarkan pada rasionalitas ekonomi neoliberal.

Praktik perhitungan ekonomi menciptakan pasar (Porter, 1995) dan memasuki organisasi dengan logika perhitungan nilai, yang, pada gilirannya, membentuk organisasi serta memerlukan “tanggung jawab dari individu yang dianggap dapat dihitung dan sebanding” (Miller dan O'Leary, 1987 ). Melalui kuantifikasi, perancang sistem PM memutuskan apa yang dianggap dapat dihitung dan dibandingkan. Meskipun ada asumsi mengenai “pendapatan mendasar”, produktivitas dan efisiensi tidak secara otomatis berhubungan dengan keselamatan dan kesehatan pekerja, perlindungan kontrak dan mata pencaharian. Setiap kali ada metode yang dirancang untuk mengkarakterisasi seseorang, yaitu pekerja ideal dengan nilai kinerja terbaik, kita mengada-ada (Hacking, 1986). Pencacahan karakteristik kemudian memungkinkan pembuatan statistik yang berfungsi sebagai kalkulus tertentu yang tampak netral, patuh, dan kebal terhadap kueri. Desrosières menunjukkan bahwa “menempatkan tindakan, penyakit, dan prestasi dalam kelas kesetaraan… kemudian membentuk cara orang yang menanggungnya diperlakukan” (2001, hal. 246). Rose menyatakan bahwa “angka, seperti 'perangkat prasasti' lainnya, sebenarnya merupakan domain yang diwakilinya; mereka menjadikannya dapat diwakilkan dalam bentuk yang patuh—suatu bentuk yang dapat diterapkan dengan perhitungan dan pertimbangan” (Rose, 1999, hlm. 198, dikutip dalam Redden, 2019, hlm. 40–41). Meskipun terdapat beragam argumen mengenai apa yang harus diukur, terlalu sedikit penelitian yang berfokus pada bagaimana keputusan diambil dalam menentukan karakteristik pekerjaan dan pabrik apa yang dianggap layak untuk diukur.

risiko K3

Jika proses pengambilan keputusan algoritmik dalam analisis manusia dan manajemen kinerja tidak melibatkan intervensi manusia dan pertimbangan etis, alat sumber daya manusia ini dapat membuat pekerja menghadapi risiko dan stres struktural, fisik, dan psikososial yang lebih tinggi. Bagaimana pekerja dapat yakin bahwa keputusan dibuat secara adil, akurat, dan jujur ??jika mereka tidak memiliki akses terhadap data yang disimpan dan digunakan oleh pemberi kerja? Risiko stres dan kecemasan K3 muncul jika pekerja merasa bahwa keputusan dibuat berdasarkan angka dan data yang tidak dapat mereka akses atau kuasai. Hal ini sangat mengkhawatirkan jika data analisis orang mengarah pada restrukturisasi tempat kerja, penggantian pekerjaan, perubahan deskripsi pekerjaan, dan sejenisnya. Analisis sumber daya manusia cenderung meningkatkan stres pekerja jika data digunakan dalam penilaian dan manajemen kinerja tanpa uji tuntas dalam proses dan implementasi, sehingga menimbulkan pertanyaan tentang manajemen mikro dan perasaan “dimata-matai.” Jika para pekerja mengetahui bahwa data mereka dibaca untuk mencari bakat atau untuk memutuskan kemungkinan PHK, mereka mungkin merasa tertekan untuk meningkatkan kinerja pekerja mereka, dan mulai bekerja terlalu keras, sehingga menimbulkan risiko K3. Risiko lain muncul dalam hal tanggung jawab, dimana klaim perusahaan mengenai kapasitas prediktif kemudian dipertanyakan keakuratannya atau departemen personalia dimintai pertanggungjawaban atas diskriminasi.

Salah satu pakar penghubung pekerja menunjukkan 1  bahwa pengumpulan data pekerja untuk pengambilan keputusan, seperti yang terlihat dalam analisis manusia, telah menciptakan masalah paling mendesak yang timbul terkait AI di tempat kerja. Seringkali, dewan pekerja tidak menyadari kemungkinan penggunaan alat manajemen tersebut. Atau, sistem diterapkan tanpa berkonsultasi dengan dewan pekerja dan pekerja. Risiko K3 yang lebih besar lagi akan muncul, seperti stres pekerja dan kehilangan pekerjaan, ketika penerapan teknologi dilakukan secara tergesa-gesa dan tanpa konsultasi dan pelatihan, atau komunikasi yang tepat. Dalam konteks ini, menarik untuk menyebutkan proyek yang dijalankan di kantor pusat IG Metall, yang mana kurikulum pelatihan di tempat kerja sedang ditinjau pada tahun 2019, dalam konteks  Industrie 4.0 . 2  Temuan menunjukkan bahwa pelatihan perlu diperbarui tidak hanya untuk mempersiapkan pekerja menghadapi risiko fisik, seperti yang telah menjadi standar dalam pelatihan K3 industri berat, namun juga untuk risiko mental dan psikososial yang disebabkan oleh digitalisasi di tempat kerja, yang mencakup aplikasi analisis manusia. 3

2. COBOT DAN CHATBOT

2.1 Cobot

Setelah mengunjungi beberapa pabrik mobil dan pusat teknologi, saya telah melihat lengan robot besar berwarna oranye di pabrik-pabrik berputar di gudang-gudang luas di lanskap industri, membuat suku cadang mobil dan merakit mobil di mana pernah berdiri ban berjalan yang dipenuhi manusia. Dalam banyak kasus, robot telah secara langsung menggantikan pekerja di jalur perakitan pabrik, dan terkadang, AI disalahartikan sebagai otomatisasi. Otomasi dalam arti murni melibatkan, misalnya, penggantian lengan manusia dengan lengan robot. Pekerjaan manual dengan keterampilan rendah secara historis merupakan pekerjaan yang paling berisiko dan masih berisiko tinggi terhadap otomatisasi. Kini, otomatisasi dapat ditingkatkan dengan perilaku atau “pemikiran” mesin yang otonom. Jadi, dimensi otomatisasi AI mencerminkan di mana otak pekerja, serta anggota tubuh mereka, mungkin tidak lagi dibutuhkan. Saat ini, seperti yang ditunjukkan oleh tinjauan EU-OSHA mengenai masa depan pekerjaan terkait robot dan pekerjaan, meskipun robot pada awalnya dibuat untuk melakukan tugas-tugas sederhana, robot semakin ditingkatkan dengan kemampuan AI dan “dibangun untuk berpikir, menggunakan AI” ( Kaivo-oja, 2015).

Dimensi otomatisasi AI menunjukkan bahwa, dalam beberapa kasus, otak pekerja, serta anggota tubuh mereka, mungkin tidak lagi diperlukan

Saat ini, cobot diintegrasikan ke dalam pabrik dan gudang tempat mereka bekerja bersama manusia secara kolaboratif. Mereka membantu dengan semakin banyaknya tugas, daripada mengotomatisasi seluruh pekerjaan. Amazon memiliki 100.000 cobot yang dilengkapi AI, sehingga mempersingkat kebutuhan pelatihan pekerja menjadi kurang dari dua hari. Airbus dan Nissan menggunakan cobot untuk mempercepat produksi dan meningkatkan efisiensi.

2.2 Chatbot

Chatbots adalah alat lain yang disempurnakan dengan AI yang dapat menangani sebagian besar pertanyaan dasar layanan pelanggan, sehingga membebaskan manusia yang bekerja di pusat panggilan untuk menangani pertanyaan yang lebih kompleks. Chatbots bekerja bersama manusia, tidak hanya secara fisik tetapi juga di bagian belakang sistem; mereka diterapkan untuk menangani pertanyaan pelanggan melalui telepon.

Misalnya, Dixons Carphone menggunakan chatbot percakapan yang sekarang bernama Cami yang dapat menjawab pertanyaan konsumen tingkat pertama di situs web Curry dan melalui Facebook messenger. Perusahaan asuransi Nuance meluncurkan chatbot bernama Nina untuk menjawab pertanyaan dan mengakses dokumentasi pada tahun 2017. Morgan Stanley telah membekali 16.000 penasihat keuangan dengan algoritme pembelajaran mesin untuk mengotomatisasi tugas-tugas rutin. Pekerja call-center sudah menghadapi risiko K3 yang besar karena sifat pekerjaannya yang berulang-ulang dan menuntut serta tunduk pada tingginya tingkat pengawasan mikro dan bentuk tindakan yang ekstrim (Woodcock, 2016).

Chatbots menimbulkan risiko psikososial seputar ketakutan akan kehilangan dan penggantian pekerjaan. Pekerja harus dilatih untuk memahami peran dan fungsi bot di tempat kerja dan mengetahui kontribusi mereka

Semakin banyak aktivitas yang telah dicatat dan diukur di call center. Kata-kata yang digunakan dalam email atau diucapkan secara lisan dapat dikumpulkan datanya untuk menentukan suasana hati pekerja, sebuah proses yang disebut “analisis sentimen.” Ekspresi wajah juga dapat dianalisis untuk melihat tanda-tanda kelelahan dan suasana hati yang dapat menyebabkan pengambilan keputusan yang buruk sehingga menurunkan risiko K3 yang timbul akibat terlalu banyak bekerja. Namun chatbot, meskipun dirancang sebagai mesin bantu, masih menimbulkan risiko psikososial berupa ketakutan akan kehilangan dan penggantian pekerjaan. Pekerja harus dilatih untuk memahami peran dan fungsi bot di tempat kerja dan mengetahui kontribusi kolaboratif dan asistif mereka.

risiko K3

Cobot dapat mengurangi risiko K3 karena memungkinkan sistem AI untuk melakukan jenis tugas layanan biasa dan rutin lainnya di pabrik yang secara historis menimbulkan stres, terlalu banyak bekerja, kesulitan muskuloskeletal, dan bahkan kebosanan karena pekerjaan yang berulang-ulang bagi manusia.

Dalam laporan EU-OSHA yang bertajuk “Foresight on New and Emerging Occupational Safety and Health Risks Associated with Digitalization by 2025” (EU-OSHA, 2018), disebutkan bahwa robot memungkinkan manusia dikeluarkan dari pekerjaan fisik yang berbahaya dan lingkungan dengan bahan kimia dan ergonomis. bahaya, sehingga mengurangi risiko K3 bagi pekerja (hal. 89).

Dalam sebuah penelitian terhadap pekerja gig online, apa yang disebut Jeff Bezos sebagai “manusia sebagai layanan” dikritik karena merupakan jenis pekerjaan yang tidak manusiawi dan merendahkan nilai pekerjaan, memfasilitasi kasualisasi pekerja, dan bahkan membuat perekonomian menjadi informal.

Sebagaimana dinyatakan dalam laporan Organisasi Penelitian Ilmiah Terapan Belanda (TNO) baru-baru ini, terdapat tiga jenis risiko K3 dalam interaksi manusia/cobot/lingkungan:

1. Risiko tabrakan robot/manusia, dimana pembelajaran mesin dapat menyebabkan perilaku robot yang tidak dapat diprediksi;
2. Risiko keamanan, dimana tautan Internet robot dapat mempengaruhi integritas pemrograman perangkat lunak, sehingga menyebabkan kerentanan dalam keamanan;
3. Lingkungan, dimana degradasi sensor dan tindakan manusia yang tidak terduga, pada lingkungan yang tidak terstruktur dapat menimbulkan risiko lingkungan (TNO, 2018, hlm. 18–19).

Pola dan pengenalan suara serta visi mesin yang diizinkan oleh AI berarti bahwa tidak hanya pekerjaan non-keterampilan yang berisiko tergantikan, namun kini, serangkaian pekerjaan tidak rutin dan tidak berulang dapat dilakukan oleh cobot serta aplikasi dan alat lainnya. Oleh karena itu, otomatisasi yang ditingkatkan dengan AI memungkinkan lebih banyak aspek pekerjaan dilakukan oleh komputer dan mesin lainnya (Frey dan Osborne, 2013). Salah satu contoh perlindungan K3 di tempat kerja melalui alat yang dilengkapi AI ditemukan di perusahaan bahan kimia yang membuat komponen optik untuk mesin. Chip sangat kecil yang dihasilkan perlu dipindai untuk menemukan kesalahan. Sebelumnya, tugas seseorang adalah mendeteksi kesalahan dengan matanya sendiri, duduk, tidak bergerak, di depan gambar chip yang berulang-ulang selama beberapa jam. Kini, AI telah sepenuhnya menggantikan tugas ini. Risiko K3, yang kini telah dihilangkan, mencakup kesulitan muskuloskeletal dan ketegangan serta kerusakan mata. 4

Namun, robot yang dilengkapi AI di pabrik dan gudang menimbulkan stres dan berbagai masalah serius jika tidak diterapkan dengan tepat. Memang benar, salah satu anggota serikat pekerja yang berbasis di Inggris menyatakan bahwa digitalisasi, otomatisasi, dan manajemen algoritmik, jika “digunakan secara bersamaan… adalah racun dan dirancang untuk merampas hak-hak dasar jutaan orang.” 5  Potensi masalah K3 juga dapat mencakup faktor risiko psikososial jika orang didorong untuk bekerja dengan kecepatan cobot (bukan cobot yang bekerja dengan kecepatan seseorang); dan tabrakan antara cobot dan seseorang. 6  Kasus lain yang terkait dengan cobot mengenai interaksi mesin/manusia yang menciptakan kondisi kerja baru dan risiko K3 adalah ketika satu orang ditugaskan untuk “menjaga” satu mesin dan menerima pemberitahuan serta pembaruan status tentang mesin di perangkat pribadi seperti ponsel cerdas atau laptop di rumah. . Hal ini dapat menimbulkan risiko kerja berlebihan, dimana pekerja merasa bertanggung jawab untuk mencatat pemberitahuan di luar jam kerja, dimana keseimbangan kerja/kehidupan terganggu. 7

Salah satu pakar  AI dan pekerjaan membahas perkembangan seputar Internet of Things (IoT) di tempat kerja, di mana sistem yang terhubung dari mesin ke mesin bekerja berdampingan dengan tenaga kerja manusia di pabrik dan gudang. Masalah input data, ketidakakuratan, dan kesalahan pada sistem mesin-ke-mesin menimbulkan risiko K3 yang signifikan serta pertanyaan mengenai tanggung jawab. Memang benar, sensor, perangkat lunak, dan konektivitas bisa saja rusak dan tidak stabil, dan semua kerentanan menimbulkan pertanyaan tentang siapa yang secara hukum bertanggung jawab atas segala kerusakan yang terjadi. Apakah salah cobot jika menabrak pekerja; kesalahan pekerja; perusahaan yang awalnya memproduksi cobot; atau perusahaan yang mempekerjakan pekerja dan mengintegrasikan cobot? Ada banyak kerumitan.

Interaksi manusia-robot menciptakan risiko dan manfaat K3 dalam bidang fisik, kognitif, dan sosial, namun cobot suatu hari nanti mungkin memiliki kompetensi untuk berpikir, dan harus membuat manusia merasa aman. Untuk mencapai hal ini, cobot harus menunjukkan persepsi objek versus manusia, dan kemampuan untuk memprediksi tabrakan, mengadaptasi perilaku dengan tepat, dan menunjukkan memori yang cukup untuk memfasilitasi pembelajaran mesin dan otonomi pengambilan keputusan (TNO, 2018, hal. 16) sejalan dengan definisi AI yang telah dijelaskan sebelumnya. 

3. TEKNOLOGI YANG DAPAT DIPAKAI

Perangkat pelacak mandiri yang dapat dipakai semakin banyak ditemukan di tempat kerja. Pasar perangkat wearable dalam industri dan layanan kesehatan diperkirakan akan tumbuh dari USD 21 juta pada tahun 2013 menjadi USD 9,2 miliar pada tahun 2020 (Nield, 2014). Dari tahun 2014 hingga 2019, diperkirakan terjadi peningkatan sebanyak tiga belas juta perangkat kebugaran yang digunakan di tempat kerja. Hal ini sudah terjadi di gudang dan pabrik di mana GPS, RFID, dan kini ban lengan penginderaan haptik—seperti yang dipatenkan oleh Amazon pada tahun 2018—telah sepenuhnya menggantikan penggunaan papan klip dan pensil.

Salah satu fitur baru dari otomasi dan  proses Industri 4.0  di mana otomasi yang ditingkatkan dengan AI sedang berlangsung adalah di bidang manufaktur ukuran lot. 9  Proses ini melibatkan kasus-kasus di mana pekerja diberikan kacamata dengan layar dan fungsi realitas virtual, seperti kacamata HoloLenses dan Google, atau tablet komputer di stand dalam lini produksi yang digunakan untuk melakukan tugas di tempat di lini produksi. Model jalur perakitan belum hilang sepenuhnya, di mana seorang pekerja melakukan satu tugas spesifik yang berulang selama beberapa jam pada suatu waktu, namun metode ukuran lotnya berbeda. Digunakan dalam strategi manufaktur tangkas, metode ini melibatkan pesanan dalam jumlah kecil yang dibuat dalam parameter waktu tertentu, dibandingkan produksi massal konstan yang tidak melibatkan pelanggan terjamin.

Pekerja diberikan pelatihan visual di tempat yang diaktifkan oleh layar atau tablet HoloLens dan melaksanakan tugas baru yang dipelajari secara instan dan hanya dilakukan selama jangka waktu yang diperlukan untuk memproduksi pesanan khusus yang diterima pabrik. Meskipun sekilas sistem bantuan ini tampak memberikan peningkatan otonomi, tanggung jawab pribadi, dan pengembangan diri, hal ini belum tentu benar (Butollo, Jürgens, dan Krzywdzinski, 2018).

Penggunaan perangkat pelatihan di tempat, baik yang sudah dipakai atau tidak, berarti bahwa pekerja memerlukan lebih sedikit pengetahuan atau pelatihan yang sudah ada karena mereka melaksanakan pekerjaan kasus per kasus. Risiko intensifikasi kerja pun muncul, karena layar yang dipasang di kepala atau komputer tablet menjadi seperti instruktur langsung bagi pekerja tidak terampil. Selain itu, pekerja tidak mempelajari keterampilan jangka panjang karena mereka diharuskan melakukan aktivitas modular di tempat dalam proses perakitan khusus, yang diperlukan untuk membuat barang yang dibuat khusus pada berbagai skala. Meskipun hal ini baik untuk efisiensi produksi perusahaan, metode ukuran lot telah menimbulkan risiko K3 yang signifikan karena metode ini menghilangkan keterampilan pekerja; tenaga kerja terampil hanya diperlukan untuk merancang program pelatihan di tempat yang digunakan oleh pekerja yang tidak perlu lagi mengambil spesialisasi.

risiko K3

Risiko K3 selanjutnya dapat muncul karena kurangnya komunikasi, dimana pekerja tidak mampu memahami kompleksitas teknologi baru dengan cukup cepat dan khususnya jika mereka juga tidak dilatih untuk bersiap menghadapi bahaya yang timbul. Salah satu permasalahan nyata adalah di bidang usaha kecil dan start-up, yang cukup eksperimental dalam penggunaan teknologi baru dan sering mengabaikan upaya untuk memastikan bahwa standar keselamatan dilaksanakan sebelum kecelakaan terjadi, padahal sudah terlambat. 10  Wawancara dengan pihak-pihak yang terlibat dalam proyek IG Metall Better Work 2020 (Bezirksleitung Nordrhein-Westfalen/NRW Projekt Arbeit 2020) mengungkapkan bahwa anggota serikat pekerja secara aktif berbicara kepada perusahaan tentang cara mereka memperkenalkan teknologi Industrie 4.0 ke tempat kerja (Moore,  2018b  ) . Pengenalan robot dan pemantauan pekerja, komputasi awan, komunikasi mesin-ke-mesin, dan sistem lainnya, semuanya telah mendorong mereka yang menjalankan proyek IG Metall untuk bertanya kepada perusahaan:

– apa dampak perubahan teknologi terhadap beban kerja masyarakat?

– apakah pekerjaan akan lebih mudah atau lebih sulit?

– akankah pekerjaan menjadi lebih atau kurang membuat stres?

– apakah akan ada lebih banyak atau lebih sedikit pekerjaan?

Anggota serikat pekerja IG Metall mengindikasikan bahwa tingkat stres pekerja cenderung meningkat ketika teknologi diterapkan tanpa pelatihan atau dialog pekerja yang memadai. Keahlian seringkali diperlukan untuk memitigasi risiko keadaan berbahaya yang disebabkan oleh teknologi baru di tempat kerja.

4. PEKERJAAN PERTUNJUKAN

Selanjutnya, kita beralih ke arena lain di mana AI memberikan dampak, yaitu lingkungan “gig work”.

“Gig work” diperoleh dengan menggunakan aplikasi online (aplikasi), disebut juga platform, yang disediakan oleh perusahaan seperti Uber, Upwork, atau Amazon Mechanical Turk (AMT). Pekerjaan tersebut dapat dilakukan  secara online —diperoleh dan dilaksanakan melalui komputer di rumah, perpustakaan, dan kafe, misalnya, dan mencakup pekerjaan penerjemahan dan desain—atau  offline —diperoleh secara online tetapi dilakukan secara offline, seperti pekerjaan mengemudi taksi atau pembersihan. Tidak semua algoritme menggunakan AI, namun data yang dihasilkan oleh layanan pencocokan klien-pekerja dan penilaian pelanggan terhadap pekerja platform menyediakan data yang melatih profil yang kemudian menghasilkan skor keseluruhan yang lebih tinggi atau lebih rendah yang kemudian mengarahkan, misalnya, klien memilih orang-orang tertentu untuk bekerja atas orang lain.

Pemantauan dan pelacakan telah menjadi pengalaman sehari-hari bagi kurir dan supir taksi selama bertahun-tahun, namun peningkatan pekerja pertunjukan offline yang melakukan pengiriman makanan melalui platform dengan sepeda, mengantarkan pesanan, dan layanan taksi relatif baru. Uber dan Deliveroo mengharuskan pekerja untuk menginstal aplikasi tertentu ke ponsel mereka, yang terletak di dashboard atau setang kendaraan, dan mereka mendapatkan klien melalui penggunaan teknologi satelit pemetaan dan dengan mencocokkan perangkat lunak yang dioperasikan secara algoritmik. Manfaat penggunaan AI dalam pekerjaan pertunjukan dapat menjadi perlindungan bagi pengemudi dan penumpang. DiDi, layanan pemesanan kendaraan asal Tiongkok, menggunakan perangkat lunak pengenalan wajah AI untuk mengidentifikasi pekerja saat mereka masuk ke aplikasi. DiDi menggunakan informasi ini untuk memastikan identitas pengemudi, yang dipandang sebagai metode pencegahan kejahatan. Namun, baru-baru ini terjadi kegagalan yang sangat serius dalam penggunaan teknologi yang menyebabkan seorang pengemudi masuk sebagai ayahnya pada suatu malam. Dengan identitas palsu, kemudian dalam shiftnya, pengemudi membunuh seorang penumpang.

Pekerja pertunjukan pengiriman bertanggung jawab atas kecepatan mereka, jumlah pengiriman per jam, dan peringkat pelanggan dalam lingkungan yang intensif yang telah terbukti menimbulkan risiko K3. Dalam  Harper's Magazine,  seorang pengemudi menjelaskan bagaimana alat-alat digital baru bekerja sebagai “cambuk mental,” dan menyatakan bahwa “orang menjadi terintimidasi dan bekerja lebih cepat” ( The Week , 2015). Pengemudi dan penumpang berisiko dinonaktifkan dari aplikasi jika peringkat pelanggan mereka tidak cukup tinggi atau tidak memenuhi persyaratan lainnya. Hal ini mengakibatkan risiko K3 termasuk perlakuan tidak adil, stres, dan bahkan ketakutan.

Algorithms are used to match clients with workers in online gig work (also called microwork). One platform called BoonTech uses IBM Watson AI Personality Insights to match clients and online gig workers, such as those gaining contracts using AMT and Upwork. Issues of discrimination have emerged that are related to women’s domestic responsibilities, when carrying out online gig work at home, such as reproductive and caring activities in a traditional context. A recent survey of online gig workers in the developing world conducted by ILO researchers shows that a higher percentage of women than men tend to “prefer to work at home” (Rani and Furrer, 2017, p. 14). Rani and Furrer’s research shows that 32% of female workers in African countries have small children and 42% in Latin America. This results in a double burden for women, who “spend about 25.8 hours working on platforms in a week, 20 hours of which is paid work and 5.8 hours considered unpaid work” (ibid., p. 13). The survey shows that 51% of women gig workers work during the night (22.00 to 05.00) and 76% work in the evening (from 18.00 to 22.00), which are “unsocial working hours” according to the ILO’s risk categories for potential work-related violence and harassment (ILO, 2016, p. 40). Rani and Furrer further state that the global outsourcing of work through platforms has effectively led to the development of a “twenty-four hour economy … eroding the fixed boundaries between home and work … [which further] puts a double burden on women, since responsibilities at home are unevenly distributed between sexes” (2017, p. 13). Working from home could already be a risky environment for women who may be subject to domestic violence alongside the lack of legal protection provided in office-based work. Indeed, “violence and harassment can occur … via technology that blurs the lines between workplaces, ‘domestic’ places and public spaces” (ILO, 2017, p. 97).

OSH risks

Digitalizing nonstandard work such as home-based online gig work, and taxi and delivery services in offline gig work, is a method of workplace governance that is based on quantification of tasks at a minutely granular level, where only explicit contact time is paid. Digitalization may appear to formalize a labor market in the ILO sense, but the risk of underemployment and underpay is very real. In terms of working time, preparatory work for reputation improvement and necessary skills development in online gig work is unpaid. Surveillance is normalized but stress still results. D’Cruz and Noronha (2016) present a case study of online gig workers in India, in which “humans-as-a-service” (as articulated by Jeff Bezos; see Prassl, 2018) is critiqued for being the kind of work that dehumanizes and devalues work, facilitates casualization of workers, and even informalizes the economy. Online gig work, such as work obtained and delivered using the AMT, relies on nonstandard forms of employment which increases the possibilities for child labor, forced labor, and discrimination. There is evidence of racism, whereby clients are reported to direct abusive and offensive comments on the platforms. Inter-worker racist behavior is also evident: gig workers working in more advanced economies blame Indian counterparts for undercutting prices. Further, some of the work obtained on online platforms is highly unpleasant, such as the work carried out by content moderators who sift through large sets of images and are required to eliminate offensive or disturbing images, with very little relief or protection around this. There are clear risks of OSH violations in the areas of heightened psychosocial violence and stress, discrimination, racism, bullying, unfree and underage labor because of the lack of basic protection in these working environments.

There are benefits from integrating AI into gig work, including driver identity protection and allowing flexible hours of work. But there are also risks, such as a double burden of work for women online workers

Dalam pekerjaan gig, para pekerja terpaksa mendaftar sebagai pekerja mandiri, sehingga kehilangan hak-hak dasar yang dinikmati pekerja formal, seperti jaminan jam kerja, tunjangan sakit dan hari libur, serta hak untuk bergabung dengan serikat pekerja. Reputasi online pekerja gig sangat penting karena reputasi yang baik adalah cara untuk mendapatkan lebih banyak pekerjaan. Seperti disebutkan di atas, penilaian dan ulasan pelanggan dan klien yang terdigitalisasi adalah kunci untuk mengembangkan reputasi yang baik dan penilaian ini menentukan berapa banyak pekerjaan yang diperoleh pekerja pertunjukan. Algoritme belajar dari peringkat pelanggan dan jumlah tugas yang diterima, yang menghasilkan jenis profil khusus untuk pekerja yang biasanya tersedia untuk umum. Pemeringkatan yang dilakukan oleh pelanggan tidak memperhatikan pertimbangan kesehatan fisik pekerja, perawatan dan tanggung jawab pekerjaan rumah tangga, serta keadaan di luar kendali pekerja yang mungkin mempengaruhi kinerja mereka, sehingga menyebabkan risiko K3 lebih lanjut di mana orang merasa terpaksa menerima lebih banyak pekerjaan daripada yang sehat, atau berada pada risiko pengecualian kerja. Peringkat kepuasan pelanggan, dan jumlah pekerjaan yang diterima, dapat digunakan untuk “menonaktifkan” penggunaan platform oleh pengemudi taksi, seperti yang dilakukan oleh Uber, meskipun ada paradoks dan fiksi bahwa algoritma tidak mengandung “bias manusia” (Frey dan Osborne, 2013, hal.18).

Secara keseluruhan, meskipun ada manfaat dari mengintegrasikan AI ke dalam pekerjaan pertunjukan, termasuk perlindungan identitas pengemudi dan memungkinkan jam kerja yang fleksibel, baik untuk kehidupan dan pilihan pekerjaan masyarakat, manfaat yang sama dapat mengakibatkan meningkatnya risiko, seperti kasus pengemudi DiDi dan kasus beban ganda kerja bagi perempuan pekerja online. Perlindungan K3 umumnya langka di lingkungan kerja ini dan risikonya sangat besar (Huws, 2015; Degryse, 2016) dan melibatkan upah yang rendah dan jam kerja yang panjang (Berg, 2016), kurangnya pelatihan yang endemik (CIPD, 2017), dan tingginya tingkat ketidakamanan (Taylor, 2017). Jimenez (2016) memperingatkan bahwa undang-undang ketenagakerjaan dan K3 belum beradaptasi dengan munculnya pekerjaan yang terdigitalisasi, dan penelitian lain mulai menyatakan klaim serupa (Degryse, 2016). Keberhasilan AI juga merupakan kegagalannya.

5. MENUJU SUATU KESIMPULAN

Perbedaannya dengan AI dan bentuk pengembangan dan penemuan teknologi lainnya untuk penggunaan di tempat kerja adalah karena kecerdasan yang diproyeksikan ke mesin otonom, mesin tersebut semakin diperlakukan sebagai pengambil keputusan dan alat manajemen, berkat kapasitas mereka yang tampaknya lebih unggul dalam menghitung dan mengukur. Ketika banyak laporan terbaru mengenai AI mencoba menjawab pertanyaan “apa yang dapat dilakukan” atau “bagaimana AI dapat diterapkan secara etis”, maka permasalahannya menjadi lebih besar. Peralihan ke ketergantungan pada penghitungan mesin untuk pengambilan keputusan cerdas di tempat kerja sebenarnya menimbulkan masalah besar dalam setiap diskusi tentang “etika” dalam penerapan dan penggunaan AI.

Dalam “An Essay Concerning Human Understanding” karya Locke, filsuf empirisis ini menulis bahwa etika dapat didefinisikan sebagai “pencarian Aturan-aturan tersebut, dan Ukuran Tindakan manusiawi, yang mengarah pada Kebahagiaan, dan Cara untuk mempraktikkannya” (Essay , IV.xxi.3, 1824, hal.1689). Tentu saja ini hanya sebuah kutipan yang dilontarkan oleh seorang filsuf etika, namun patut dicatat bahwa pencarian dan penetapan aturan-aturan tersebut, sebagai parameter penggambaran etika, sejauh ini hanya dilakukan dan dilakukan oleh para filsuf etika. manusia. Saat kami memperkenalkan mesin sebagai agen penetapan aturan, seperti yang dilakukan AI, seluruh konsep etika berada dalam pengawasan ketat. Daripada berbicara tentang bagaimana menerapkan AI tanpa risiko kematian, keruntuhan bisnis, atau perselisihan hukum, yang merupakan kekhawatiran mendasar yang mendorong etika dalam diskusi AI saat ini, lebih masuk akal jika kita melihat kembali diskusi tersebut dan fokus pada pertanyaan: mengapa menerapkan AI sama sekali? Akankah pengenalan AI ke berbagai institusi dan tempat kerja di masyarakat benar-benar akan menghasilkan masyarakat yang sejahtera dan berkembang seperti yang digembar-gemborkan? Atau akankah hal ini menguras kondisi material para pekerja dan mendorong kecerdasan yang tidak berorientasi pada, misalnya, negara kesejahteraan yang berkembang, kondisi kerja yang baik, atau pengalaman kerja dan kehidupan yang berkualitas?

Daripada membicarakan tentang cara menerapkan AI tanpa risiko kematian, keruntuhan bisnis, atau perselisihan hukum, lebih baik kita melihat kembali diskusi tersebut dan fokus pada pertanyaan: apakah penerapan AI di berbagai institusi dan tempat kerja akan menghasilkan kesejahteraan dan kesejahteraan? masyarakat?

Meskipun mesin memiliki lebih banyak memori dan kekuatan pemrosesan dibandingkan sebelumnya, sehingga mesin dapat berpartisipasi dalam pembelajaran mesin, mesin tidak memiliki empati dan pengetahuan sejarah atau konteks budaya yang lengkap di mana pekerjaan terjadi. Mesin tidak dapat dengan sengaja melakukan diskriminasi, namun jika keputusan di tempat kerja bersifat diskriminatif (yaitu, lebih banyak laki-laki atau orang kulit putih yang dipekerjakan dalam kurun waktu tertentu dibandingkan yang lain; lebih banyak perempuan atau orang kulit berwarna yang dipecat dan tidak dipromosikan dibandingkan yang lain, dan seterusnya), maka data yang dikumpulkan mengenai praktik perekrutan akan bersifat diskriminatif. Paradoksnya adalah jika data ini digunakan untuk melatih algoritme guna membuat keputusan perekrutan/pecatan lebih lanjut, maka, tentu saja, keputusan tersebut akan menunjukkan diskriminasi. Mesin, apa pun bentuk manajemen intelijen yang dimilikinya, tidak dan tidak dapat melihat aspek kualitatif kehidupan maupun konteks di sekitarnya. Cathy O'Neil, penulis  Weapons of Math Destruction: How Big Data Meningkatkan Ketimpangan dan Mengancam Demokrasi , membuat pengamatan yang mendalam dalam wawancara baru-baru ini dengan penulis saat ini. Sambil menyaksikan pengendara Deliveroo melaju melewatinya di tengah hujan, Dr. O'Neil mempertimbangkan platform yang mengarahkan pekerjaan pengendara, yang beroperasi berdasarkan efisiensi dan kecepatan sehingga mendorong pengendara untuk bersepeda dalam kondisi cuaca yang tidak aman. Hal ini jelas membahayakan nyawa pengendara. Dr. O'Neil menyebut algoritme sebagai “model mainan alam semesta”, karena entitas yang tampaknya maha tahu ini sebenarnya hanya mengetahui apa yang kita katakan kepada mereka, sehingga mereka memiliki titik buta yang besar.

If it is accepted that machines hold the same competences as humans, or even better competences than us, will we begin to reduce management accountability? Further questions: can there be an ethical use for AI, given the complexity of rulemaking, when something besides an intelligent human mind is expected to make rules? Where will the final say in intelligence lie? Why do we want machines to behave as we do, given that evidence already shows that machine learning can only learn as much as already exists in the data that trains it, and if the data reflects humans’ discriminatory behavior, then the algorithms, almost necessarily, will demonstrate or promote discrimination? The mythical invention of E. M. Forster’s all-encompassing machine in his classical science fiction story (1928/2011) was not, of course, subject to a range of ethical and moral review panels before all of humanity began to live within it under the Earth’s crust. As we enter a new era of AI, it will remain important to recall the tension points in positioning technologies into places of power in workplaces and maintain, rather than the looming horizon where machines are in command, a “human in command” (De Stefano, 2018) approach to rolling out any new technologies into workplaces. Human responses to this trend should involve careful regulation, in which human intelligence takes precedence, as the machine becomes increasingly evident in our working lives.