{"id":306,"date":"2023-06-19T19:48:40","date_gmt":"2023-06-19T22:48:40","guid":{"rendered":"https:\/\/noticiatotal.net\/?p=306"},"modified":"2023-06-22T22:08:25","modified_gmt":"2023-06-23T01:08:25","slug":"pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia","status":"publish","type":"post","link":"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/","title":{"rendered":"Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia."},"content":{"rendered":"

Especialistas do renomado Instituto Max-Planck, sediado na Alemanha, destacaram a necessidade de cautela diante dos potenciais riscos relacionados a uma IA altamente inteligente.<\/span><\/h2>\n

 <\/p>\n

\"\"
FOTO BBC<\/span><\/figcaption><\/figure>\n

Com os avan\u00e7os no campo da intelig\u00eancia artificial (IA), as m\u00e1quinas est\u00e3o adquirindo cada vez mais conhecimento e habilidades adaptativas, aproximando-se da capacidade humana de execu\u00e7\u00e3o de tarefas. Essa evolu\u00e7\u00e3o levanta preocupa\u00e7\u00f5es sobre o futuro papel da IA em nossa sociedade, inclusive entre especialistas de renome.<\/span><\/p>\n

 <\/p>\n

PREOCUPA\u00c7\u00d5ES<\/span><\/h2>\n

 <\/p>\n

Essas preocupa\u00e7\u00f5es foram abordadas em um estudo conduzido por cientistas do Instituto Max-Planck para o Desenvolvimento Humano, localizado na Alemanha. O estudo aponta que controlar uma IA altamente inteligente pode ser um desafio para os seres humanos. Segundo o estudo, uma poss\u00edvel abordagem para controlar tal IA seria por meio de simula\u00e7\u00f5es. No entanto, dado que a IA ainda n\u00e3o pode ser totalmente compreendida, a realiza\u00e7\u00e3o de uma simula\u00e7\u00e3o efetiva \u00e9 considerada imposs\u00edvel no momento.<\/span><\/p>\n

 <\/p>\n

\"\"
FOTO UOL<\/span><\/figcaption><\/figure>\n

Segundo os pesquisadores, a estabelecimento e implementa\u00e7\u00e3o de regras, como a de “n\u00e3o causar danos aos humanos”, n\u00e3o podem ocorrer sem um completo entendimento do cen\u00e1rio futuro apresentado pela IA. Se o sistema de computador operar em um n\u00edvel al\u00e9m da compreens\u00e3o dos programadores, ser\u00e1 invi\u00e1vel estabelecer limites.<\/span><\/p>\n

 <\/p>\n

EXPLICAVA AS VARIEDADES<\/span><\/h2>\n

 <\/p>\n

Os pesquisadores explicaram que uma superintelig\u00eancia apresenta desafios diferentes daqueles estudados no campo da “\u00e9tica rob\u00f3tica”. Isso ocorre porque uma superintelig\u00eancia \u00e9 altamente complexa e capaz de mobilizar uma ampla variedade de recursos para alcan\u00e7ar objetivos que podem ser incompreens\u00edveis para os seres humanos, tornando-as menos control\u00e1veis.<\/span><\/p>\n

Uma parte desse racioc\u00ednio est\u00e1 relacionada ao “problema da parada” proposto pelo matem\u00e1tico brit\u00e2nico Alan Turing em 1936. Esse problema questiona se um programa de computador ser\u00e1 capaz de chegar a uma conclus\u00e3o, ou seja, se ele eventualmente ir\u00e1 parar, ou se ficar\u00e1 preso em um ciclo infinito em busca de uma resposta.<\/span><\/p>\n

 <\/p>\n

O QUE SER FEITO?<\/span><\/h2>\n

 <\/p>\n

\"\"
FOTO CONVERGENCIA DIGITAL<\/span><\/figcaption><\/figure>\n

Mesmo que seja poss\u00edvel conhecer a resposta em casos espec\u00edficos, \u00e9 logicamente imposs\u00edvel prever hoje as respostas para todos os programas que possam ser desenvolvidos no futuro. No contexto da IA, qualquer programa criado para evitar danos aos seres humanos pode chegar a uma conclus\u00e3o e parar ou n\u00e3o. Portanto, \u00e9 imposs\u00edvel ter certeza absoluta.<\/span><\/p>\n

Diante disso, os pesquisadores prop\u00f5em uma alternativa para ensinar \u00e9tica \u00e0 IA e evitar que ela cause danos ao mundo, que \u00e9 limitar suas capacidades. Uma abordagem seria restringir suas conex\u00f5es com determinadas redes na internet.<\/span><\/p>\n


\nO ESTUDO<\/span><\/h2>\n

 <\/p>\n

No entanto, o estudo refutou essa ideia, argumentando que isso limitaria o potencial da IA. Os pesquisadores questionaram o motivo de criar uma IA se ela n\u00e3o for utilizada para solucionar problemas que os humanos n\u00e3o conseguem resolver.<\/span><\/p>\n

“Uma m\u00e1quina superinteligente que controla o mundo pode parecer fic\u00e7\u00e3o cient\u00edfica. No entanto, j\u00e1 existem m\u00e1quinas que realizam tarefas importantes de forma aut\u00f4noma, sem que os programadores compreendam totalmente como elas aprenderam. Surge, ent\u00e3o, a quest\u00e3o de saber se isso pode se tornar incontrol\u00e1vel e representar um perigo para a humanidade”, afirmou Manuel Cebrian, coautor do estudo, do Instituto Max-Planck para o Desenvolvimento Humano em Berlim.
\n<\/span><\/p>\n

 <\/p>\n


\nO ESPERADO?<\/span><\/span><\/h2>\n

 <\/p>\n

\"\"
FOTO BBC<\/figcaption><\/figure>\n

A r\u00e1pida evolu\u00e7\u00e3o da intelig\u00eancia artificial tem levantado preocupa\u00e7\u00f5es entre especialistas no assunto. Segundo Paul Christiano, um renomado especialista da OpenAI, o atual caminho seguido pela IA pode representar uma chance de 50\/50 para uma poss\u00edvel cat\u00e1strofe, resultando em grande perda de vidas humanas. Ele ressalta a possibilidade real de a intelig\u00eancia artificial se tornar dominante, semelhante ao cen\u00e1rio apresentado em “O Exterminador do Futuro”, onde governaria e potencialmente arruinaria a humanidade.<\/span><\/p>\n

 <\/p>\n

RESULTADOS<\/span><\/h2>\n

 <\/p>\n

“Eu acredito que pode existir uma chance de 10 a 20 por cento de uma tomada de poder pela IA, resultando na morte de muitos ou da maioria dos seres humanos. No geral, poder\u00edamos estar falando de uma chance de 50\/50 de uma cat\u00e1strofe logo ap\u00f3s alcan\u00e7armos sistemas com intelig\u00eancia compar\u00e1vel \u00e0 humana”, afirmou Christiano em uma entrevista para o podcast Bankless.<\/p>\n

<\/span><\/p>\n

VIS\u00c3O<\/span><\/p>\n

<\/span><\/h2>\n

A vis\u00e3o de Christiano deve ser levada em considera\u00e7\u00e3o devido \u00e0 sua experi\u00eancia como ex-chefe da equipe de alinhamento de modelos de linguagem na OpenAI. Suas previs\u00f5es n\u00e3o s\u00e3o apenas alarmistas, mas fundamentadas em seu conhecimento e experi\u00eancia na \u00e1rea.<\/span><\/p>\n

 <\/p>\n

LIDERAN\u00c7A<\/span><\/h2>\n

 <\/p>\n

Atualmente, ele lidera uma organiza\u00e7\u00e3o sem fins lucrativos chamada Centro de Pesquisa de Alinhamento, cujo objetivo \u00e9 garantir que os sistemas de IA sejam desenvolvidos de forma amig\u00e1vel, levando em considera\u00e7\u00e3o os interesses humanos.<\/span><\/p>\n","protected":false},"excerpt":{"rendered":"

Especialistas do renomado Instituto Max-Planck, sediado na Alemanha, destacaram a necessidade de cautela diante dos potenciais riscos relacionados a uma IA altamente inteligente.   Com os avan\u00e7os no campo da intelig\u00eancia artificial (IA), as m\u00e1quinas est\u00e3o adquirindo cada vez mais conhecimento e habilidades adaptativas, aproximando-se da capacidade humana de execu\u00e7\u00e3o de tarefas. Essa evolu\u00e7\u00e3o levanta …<\/p>\n

Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia.<\/span> Leia mais »<\/a><\/p>\n","protected":false},"author":1,"featured_media":307,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"site-sidebar-layout":"default","site-content-layout":"default","ast-global-header-display":"","ast-banner-title-visibility":"","ast-main-header-display":"","ast-hfb-above-header-display":"","ast-hfb-below-header-display":"","ast-hfb-mobile-header-display":"","site-post-title":"","ast-breadcrumbs-content":"","ast-featured-img":"","footer-sml-layout":"","theme-transparent-header-meta":"default","adv-header-id-meta":"","stick-header-meta":"","header-above-stick-meta":"","header-main-stick-meta":"","header-below-stick-meta":"","footnotes":""},"categories":[2],"tags":[],"class_list":["post-306","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"yoast_head":"\nPode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia. - NOTICIA TOTAL<\/title>\n<meta name=\"description\" content=\"Pode ser extremamente desafiador controle sobre uma IA. Especialistas do renomado Instituto Max-Planck, sediado na Alemanha, destacaram a ne\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/\" \/>\n<meta property=\"og:locale\" content=\"pt_BR\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia. - NOTICIA TOTAL\" \/>\n<meta property=\"og:description\" content=\"Pode ser extremamente desafiador controle sobre uma IA. Especialistas do renomado Instituto Max-Planck, sediado na Alemanha, destacaram a ne\" \/>\n<meta property=\"og:url\" content=\"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/\" \/>\n<meta property=\"og:site_name\" content=\"NOTICIA TOTAL\" \/>\n<meta property=\"article:published_time\" content=\"2023-06-19T22:48:40+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2023-06-23T01:08:25+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/noticiatotal.net\/wp-content\/uploads\/2023\/06\/ia.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1200\" \/>\n\t<meta property=\"og:image:height\" content=\"800\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"lucasfernandomoura\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:label1\" content=\"Escrito por\" \/>\n\t<meta name=\"twitter:data1\" content=\"lucasfernandomoura\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. tempo de leitura\" \/>\n\t<meta name=\"twitter:data2\" content=\"5 minutos\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"WebPage\",\"@id\":\"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/\",\"url\":\"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/\",\"name\":\"Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia. - NOTICIA TOTAL\",\"isPartOf\":{\"@id\":\"https:\/\/noticiatotal.net\/#website\"},\"datePublished\":\"2023-06-19T22:48:40+00:00\",\"dateModified\":\"2023-06-23T01:08:25+00:00\",\"author\":{\"@id\":\"https:\/\/noticiatotal.net\/#\/schema\/person\/cad5b22920df7ae426c485cabbe44fdd\"},\"description\":\"Pode ser extremamente desafiador controle sobre uma IA. Especialistas do renomado Instituto Max-Planck, sediado na Alemanha, destacaram a ne\",\"breadcrumb\":{\"@id\":\"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/#breadcrumb\"},\"inLanguage\":\"pt-BR\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/\"]}]},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"In\u00edcio\",\"item\":\"https:\/\/noticiatotal.net\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia.\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/noticiatotal.net\/#website\",\"url\":\"https:\/\/noticiatotal.net\/\",\"name\":\"NOTICIA TOTAL\",\"description\":\"noticiatotal.net\",\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/noticiatotal.net\/?s={search_term_string}\"},\"query-input\":\"required name=search_term_string\"}],\"inLanguage\":\"pt-BR\"},{\"@type\":\"Person\",\"@id\":\"https:\/\/noticiatotal.net\/#\/schema\/person\/cad5b22920df7ae426c485cabbe44fdd\",\"name\":\"lucasfernandomoura\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"pt-BR\",\"@id\":\"https:\/\/noticiatotal.net\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/48496aac2517819aa249e82567f65879bbafd2aa97f45449f4c5a7d823e60786?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/48496aac2517819aa249e82567f65879bbafd2aa97f45449f4c5a7d823e60786?s=96&d=mm&r=g\",\"caption\":\"lucasfernandomoura\"},\"sameAs\":[\"https:\/\/noticiatotal.net\"],\"url\":\"https:\/\/noticiatotal.net\/index.php\/author\/lucasfernandomoura\/\"}]}<\/script>\n<!-- \/ Yoast SEO plugin. -->","yoast_head_json":{"title":"Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia. - NOTICIA TOTAL","description":"Pode ser extremamente desafiador controle sobre uma IA. Especialistas do renomado Instituto Max-Planck, sediado na Alemanha, destacaram a ne","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/","og_locale":"pt_BR","og_type":"article","og_title":"Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia. - NOTICIA TOTAL","og_description":"Pode ser extremamente desafiador controle sobre uma IA. Especialistas do renomado Instituto Max-Planck, sediado na Alemanha, destacaram a ne","og_url":"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/","og_site_name":"NOTICIA TOTAL","article_published_time":"2023-06-19T22:48:40+00:00","article_modified_time":"2023-06-23T01:08:25+00:00","og_image":[{"width":1200,"height":800,"url":"https:\/\/noticiatotal.net\/wp-content\/uploads\/2023\/06\/ia.jpg","type":"image\/jpeg"}],"author":"lucasfernandomoura","twitter_card":"summary_large_image","twitter_misc":{"Escrito por":"lucasfernandomoura","Est. tempo de leitura":"5 minutos"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"WebPage","@id":"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/","url":"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/","name":"Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia. - NOTICIA TOTAL","isPartOf":{"@id":"https:\/\/noticiatotal.net\/#website"},"datePublished":"2023-06-19T22:48:40+00:00","dateModified":"2023-06-23T01:08:25+00:00","author":{"@id":"https:\/\/noticiatotal.net\/#\/schema\/person\/cad5b22920df7ae426c485cabbe44fdd"},"description":"Pode ser extremamente desafiador controle sobre uma IA. Especialistas do renomado Instituto Max-Planck, sediado na Alemanha, destacaram a ne","breadcrumb":{"@id":"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/#breadcrumb"},"inLanguage":"pt-BR","potentialAction":[{"@type":"ReadAction","target":["https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/"]}]},{"@type":"BreadcrumbList","@id":"https:\/\/noticiatotal.net\/index.php\/2023\/06\/19\/pode-ser-extremamente-desafiador-controle-sobre-uma-ia-com-altos-niveis-de-inteligencia\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"In\u00edcio","item":"https:\/\/noticiatotal.net\/"},{"@type":"ListItem","position":2,"name":"Pode ser extremamente desafiador controle sobre uma IA com altos n\u00edveis de intelig\u00eancia."}]},{"@type":"WebSite","@id":"https:\/\/noticiatotal.net\/#website","url":"https:\/\/noticiatotal.net\/","name":"NOTICIA TOTAL","description":"noticiatotal.net","potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/noticiatotal.net\/?s={search_term_string}"},"query-input":"required name=search_term_string"}],"inLanguage":"pt-BR"},{"@type":"Person","@id":"https:\/\/noticiatotal.net\/#\/schema\/person\/cad5b22920df7ae426c485cabbe44fdd","name":"lucasfernandomoura","image":{"@type":"ImageObject","inLanguage":"pt-BR","@id":"https:\/\/noticiatotal.net\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/48496aac2517819aa249e82567f65879bbafd2aa97f45449f4c5a7d823e60786?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/48496aac2517819aa249e82567f65879bbafd2aa97f45449f4c5a7d823e60786?s=96&d=mm&r=g","caption":"lucasfernandomoura"},"sameAs":["https:\/\/noticiatotal.net"],"url":"https:\/\/noticiatotal.net\/index.php\/author\/lucasfernandomoura\/"}]}},"amp_enabled":true,"_links":{"self":[{"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/posts\/306","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/comments?post=306"}],"version-history":[{"count":1,"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/posts\/306\/revisions"}],"predecessor-version":[{"id":310,"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/posts\/306\/revisions\/310"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/media\/307"}],"wp:attachment":[{"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/media?parent=306"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/categories?post=306"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/noticiatotal.net\/index.php\/wp-json\/wp\/v2\/tags?post=306"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}