Tutorial R: come importare dati in R

Ottieni il libro completo
R pratica per la comunicazione di massa e il giornalismo MSRP $ 59,95 Guardalo

Questo articolo è stato estratto da "Practical R for Mass Communication and Journalism" con il permesso dell'editore. © 2019 di Taylor & Francis Group, LLC.

Prima di poter analizzare e visualizzare i dati, è necessario importarli in R. Esistono vari modi per farlo, a seconda di come i dati sono formattati e dove si trovano.

Di solito, la funzione utilizzata per importare i dati dipende dal formato del file dei dati. Nella base R, ad esempio, puoi importare un file CSV con read.csv(). Hadley Wickham ha creato un pacchetto chiamato readxl che, come ci si potrebbe aspettare, ha una funzione per leggere nei file Excel. C'è un altro pacchetto, googlesheets, per estrarre dati dai fogli di lavoro di Google.

Ma se non vuoi ricordare tutto questo, c'è Rio.

La magia di rio

"Lo scopo di rio è quello di rendere il file di dati I / O [import / output] in R il più semplice possibile implementando tre semplici funzioni in stile coltellino svizzero", secondo la pagina GitHub del progetto. Tali funzioni sono import(), export()e convert().

Quindi, il pacchetto rio ha solo una funzione per leggere in molti diversi tipi di file: import(). Se tu import("myfile.csv"), sa usare una funzione per leggere un file CSV. import("myspreadsheet.xlsx")funziona allo stesso modo. In effetti, rio gestisce più di due dozzine di formati inclusi dati separati da tabulazioni (con estensione .tsv), JSON, Stata e dati in formato a larghezza fissa (.fwf).

Pacchetti necessari per questo tutorial

  • rio
  • htmltab
  • readxl
  • googlesheets
  • pacman
  • bidello
  • rmiscutils (pm GitHub) o readr
  • tibble

Dopo aver analizzato i dati, se desideri salvare i risultati come CSV, foglio di calcolo Excel o altri formati, la export()funzione di rio può gestirlo.

Se non hai già il pacchetto rio sul tuo sistema, installalo ora con install.packages("rio").

Ho impostato alcuni dati di esempio con i dati sulle nevicate invernali di Boston. Puoi andare su //bit.ly/BostonSnowfallCSV e fare clic con il pulsante destro del mouse per salvare il file come BostonWinterSnowfalls.csv nella directory di lavoro del progetto R. Ma uno dei punti dello scripting è sostituire il lavoro manuale, noioso o meno, con un'automazione facile da riprodurre. Invece di fare clic per scaricare, puoi utilizzare la download.filefunzione di R con la sintassi download.file("url", "destinationFileName.csv"):

download.file ("// bit.ly/BostonSnowfallCSV", "BostonWinterSnowfalls.csv")

Ciò presume che il tuo sistema reindirizzerà da quel collegamento URL Bit.ly e troverà con successo l'URL del file reale, //raw.githubusercontent.com/smach/NICAR15data/master/BostonWinterSnowfalls.csv. Occasionalmente ho avuto problemi ad accedere ai contenuti web su vecchi PC Windows. Se ne hai uno e questo link Bit.ly non funziona, puoi scambiare l'URL effettivo per il link Bit.ly. Un'altra opzione è aggiornare il tuo PC Windows a Windows 10, se possibile, per vedere se funziona.

Se desideri che rio possa importare dati direttamente da un URL, in effetti può farlo, e ci arriveremo nella prossima sezione. Lo scopo di questa sezione è fare pratica lavorando con un file locale.

Una volta che hai il file di test sul tuo sistema locale, puoi caricare quei dati in un oggetto R chiamato snowdata con il codice:

snowdata <- rio :: import ("BostonWinterSnowfalls.csv")

Nota che è possibile che rio ti chieda di scaricare di nuovo il file in formato binario, nel qual caso dovrai eseguire

download.file ("// bit.ly/BostonSnowfallCSV", "BostonWinterSnowfalls.csv", mode = "wb")

Assicurati di utilizzare le opzioni di completamento della scheda di RStudio. Se digiti rio::e attendi, otterrai un elenco di tutte le funzioni disponibili. Digita snowe attendi e dovresti vedere il nome completo del tuo oggetto come opzione. Utilizza i tasti freccia su e giù per spostarti tra i suggerimenti di completamento automatico. Una volta evidenziata l'opzione desiderata, premere il tasto Tab (o Invio) per aggiungere il nome completo dell'oggetto o della funzione allo script.

Dovresti vedere l'oggetto snowdataapparire nella scheda del tuo ambiente nel riquadro in alto a destra di RStudio. (Se il riquadro in alto a destra mostra la cronologia dei comandi invece del tuo ambiente, seleziona la scheda Ambiente.)

Taylor & Francis Group

snowdatadovrebbe mostrare che ha 76 "oss." - osservazioni, o righe - e due variabili, o colonne. Se fai clic sulla freccia a sinistra di snowdataper espandere l'elenco, vedrai i due nomi di colonna e il tipo di dati che ciascuna colonna contiene. Sono Winterstringhe di caratteri e la Totalcolonna è numerica. Dovresti anche essere in grado di vedere i primi pochi valori di ogni colonna nel riquadro Ambiente.

Taylor & Francis Group

Fare clic sulla parola snowdatastessa nella scheda Ambiente per una visualizzazione più simile a un foglio di calcolo dei dati. Puoi ottenere la stessa vista dalla console R con il comando View(snowdata)(deve essere una V maiuscola su Visualizza - viewnon funzionerà). Nota: snowdatanon è tra virgolette perché ti riferisci al nome di un oggetto R nel tuo ambiente. Nel rio::importcomando prima, BostonWinterSnowfalls.csv è tra virgolette perché non è un oggetto R; è il nome di una stringa di caratteri di un file al di fuori di R.

Taylor & Francis Group

Questa visualizzazione ha un paio di comportamenti simili a fogli di calcolo. Fare clic su un'intestazione di colonna per ordinarla in base ai valori di quella colonna in ordine crescente; fare clic una seconda volta sulla stessa intestazione di colonna per ordinare in ordine decrescente. C'è una casella di ricerca per trovare le righe che corrispondono a determinati caratteri.

Se fai clic sull'icona Filtro, ottieni un filtro per ogni colonna. La Wintercolonna dei caratteri funziona come ci si potrebbe aspettare, filtrando le righe che contengono i caratteri Totaldigitati . Se si fa clic nel filtro della colonna numerica, tuttavia, le versioni precedenti di RStudio mostrano un dispositivo di scorrimento mentre quelle più recenti mostrano un istogramma e una casella per il filtro .

Importa un file dal web

Se desideri scaricare e importare un file dal Web, puoi farlo se è disponibile pubblicamente e in un formato come Excel o CSV. Provare

snowdata <- rio :: import ("// bit.ly/BostonSnowfallCSV", format)

Molti sistemi possono seguire l'URL di reindirizzamento al file anche dopo aver ricevuto un messaggio di errore, purché si specifichi il formato "csv"perché il nome del file qui non include .csv. Se il tuo non funziona, utilizza invece l'URL //raw.githubusercontent.com/smach/R4JournalismBook/master/data/BostonSnowfall.csv.

rio può anche importare tabelle HTML ben formattate dalle pagine web, ma le tabelle devono essere estremamente ben formattate. Supponiamo che tu voglia scaricare la tabella che descrive le valutazioni di gravità del National Weather Service per le tempeste di neve. La pagina dell'indice delle nevicate regionali dei centri nazionali per le informazioni ambientali ha solo una tabella, molto ben realizzata, quindi un codice come questo dovrebbe funzionare:

rsi_description <- rio :: import ("//www.ncdc.noaa.gov/snow-and-ice/rsi/", format = "html")

Nota di nuovo che devi includere il formato, in questo caso format="html". perché l'URL stesso non fornisce alcuna indicazione sul tipo di file che è. Se l'URL includesse un nome di file con .htmlun'estensione, rio lo saprebbe.

Nella vita reale, tuttavia, i dati Web raramente appaiono in una forma così pulita e isolata. Una buona opzione per i casi che non sono altrettanto ben realizzati è spesso il pacchetto htmltab. Installalo con install.packages("htmltab"). La funzione del pacchetto per leggere una tabella HTML è anche chiamata htmltab. Ma se esegui questo:

libreria (htmltab) citytable <- htmltab ("// en.wikipedia.org/wiki/List_of_United_States_cities_by_population") str (citytable)

vedi che non hai la tabella corretta, perché il data frame contiene un oggetto. Poiché non ho specificato quale tabella, ha estratto la prima tabella HTML sulla pagina. Non era quello che volevo. Non ho voglia di importare tutte le tabelle della pagina finché non trovo quella giusta, ma fortunatamente ho un'estensione di Chrome chiamata Table Capture che mi permette di visualizzare un elenco delle tabelle su una pagina.

L'ultima volta che ho controllato, la tabella 5 con più di 300 righe era quella che volevo. Se ora non funziona per te, prova a installare Table Capture su un browser Chrome per controllare quale tabella desideri scaricare.

Proverò di nuovo, specificando la tabella 5 e poi vedendo quali sono i nomi delle colonne nella nuova tabella di città. Si noti che nel codice seguente, ho inserito il citytable <- htmltab()comando su più righe. È così che non ha superato i margini: puoi tenere tutto su una singola riga. Se il numero della tabella è cambiato da quando è stato pubblicato questo articolo, sostituiscilo which = 5con il numero corretto.

Invece di utilizzare la pagina su Wikipedia, puoi sostituire l'URL di Wikipedia con l'URL di una copia del file che ho creato. Quel file si trova in //bit.ly/WikiCityList. Per utilizzare tale versione, tipo bit.ly/WikiCityListin un browser, quindi copiare il lungo URL reindirizza e l'uso che invece della Wikipedia URL nel codice qui sotto:

library (htmltab) citytable <- htmltab ("// en.wikipedia.org/wiki/List_of_United_States_cities_by_population", which = 5) colnames (citytable)

Come facevo a sapere che whichera l'argomento di cui avevo bisogno per specificare il numero della tabella? Ho letto il htmltabfile della guida utilizzando il comando ?htmltab. Ciò includeva tutti gli argomenti disponibili. Ho esaminato le possibilità e " whichun vettore di lunghezza uno per l'identificazione della tabella nel documento" sembrava giusto.

Nota anche che ho usato colnames(citytable)invece di names(citytable)vedere i nomi delle colonne. O funzionerà. Base R ha anche la  rownames()funzione.

Ad ogni modo, i risultati di queste tabelle sono molto migliori, anche se puoi vedere dall'esecuzione str(citytable)che un paio di colonne che dovrebbero essere numeri sono arrivate come stringhe di caratteri. Puoi vederlo sia chraccanto al nome della colonna che tra virgolette attorno a valori come 8,550,405.

Questo è uno dei piccoli fastidi di R: R generalmente non capisce che 8,550è un numero. Ho affrontato questo problema da solo scrivendo la mia funzione nel mio pacchetto rmiscutils per trasformare tutte quelle "stringhe di caratteri" che sono in realtà numeri con virgole in numeri. Chiunque può scaricare il pacchetto da GitHub e usarlo.

Il modo più popolare per installare pacchetti da GitHub è utilizzare un pacchetto chiamato devtools. devtools è un pacchetto estremamente potente progettato principalmente per le persone che vogliono scrivere i propri pacchetti e include alcuni modi per installare pacchetti da altri luoghi oltre a CRAN. Tuttavia, devtools di solito richiede un paio di passaggi aggiuntivi per l'installazione rispetto a un pacchetto tipico, e voglio lasciare fastidiose attività di amministrazione del sistema fino a quando non è assolutamente necessario.

Tuttavia, il pacchetto pacman installa anche pacchetti da fonti non CRAN come GitHub. Se non l'hai ancora fatto, installa pacman coninstall.packages("pacman").

La p_install_gh("username/packagerepo")funzione di pacman viene installata da un repository GitHub.

p_load_gh("username/packagerepo")carica un pacchetto in memoria se esiste già sul tuo sistema e prima installa quindi carica un pacchetto da GitHub se il pacchetto non esiste localmente.

Il mio pacchetto di utilità rmisc può essere trovato su smach/rmiscutils. Esegui pacman::p_load_gh("smach/rmiscutils")per installare il mio pacchetto rmiscutils.

Nota: un pacchetto alternativo per l'installazione di pacchetti da GitHub è chiamato telecomandi, che puoi installare tramite  install.packages("remotes"). Il suo scopo principale è installare pacchetti da repository remoti come GitHub. Puoi guardare il file della guida con help(package="remotes").

E forse il più intelligente di tutti è un pacchetto chiamato githubinstall. Ha lo scopo di indovinare il repository in cui risiede un pacchetto. Installalo tramite  install.packages("githubinstall"); quindi puoi installare il mio pacchetto rmiscutils usando  githubinstall::gh_install_packages("rmiscutils"). Ti viene chiesto se desideri installare il pacchetto su smach/rmisutils(lo fai).

Ora che hai installato la mia raccolta di funzioni, puoi usare la mia number_with_commas()funzione per cambiare quelle stringhe di caratteri che dovrebbero essere numeri in numeri. Consiglio vivamente di aggiungere una nuova colonna al data frame invece di modificare una colonna esistente: questa è una buona pratica di analisi dei dati, indipendentemente dalla piattaforma che stai utilizzando.

In questo esempio, chiamerò la nuova colonna PopEst2017. (Se la tabella è stata aggiornata da allora, utilizzare i nomi di colonna appropriati.)

libreria (rmiscutils) citytable $ PopEst2017 <- number_with_commas (citytable $ `stima 2017`)

Il mio pacchetto rmiscutils non è l'unico modo per gestire i numeri importati che hanno virgole, tra l'altro. Dopo aver creato il mio pacchetto rmiscutils e la sua number_with_commas()funzione, è nato il pacchetto readr tidyverse. readr include anche una funzione che le stringhe di caratteri si trasforma in numeri, parse_number().

Dopo aver installato readr, puoi generare numeri dalla colonna delle stime 2017 con readr:

citytable $ PopEst2017 <- readr :: parse_number (citytable $ `stima 2017`)

Un vantaggio di readr::parse_number()è che puoi definire il tuo locale()per controllare cose come codifica e segni decimali, che potrebbero interessare i lettori non statunitensi. Esegui ?parse_number per ulteriori informazioni.

Nota: se non hai utilizzato il completamento tramite tabulazione per la colonna della stima del 2017, potresti aver avuto un problema con il nome di quella colonna se contiene uno spazio al momento in cui esegui questo codice. Nel mio codice sopra, nota che ci sono virgolette singole all'indietro ( `) attorno al nome della colonna. Questo perché il nome esistente aveva uno spazio, che non dovresti avere in R. Il nome della colonna ha un altro problema: inizia con un numero, generalmente anche un R no-no. RStudio lo sa e aggiunge automaticamente le virgolette indietro necessarie attorno al nome con il completamento automatico della scheda.

Suggerimento bonus: c'è un pacchetto R (ovviamente c'è!) Chiamato bidello che può risolvere automaticamente i nomi di colonne fastidiosi importati da un'origine dati non compatibile con R. Installalo con install.packages("janitor"). Quindi, puoi creare nuovi nomi di colonna puliti utilizzando la clean_names()funzione di bidello .

Ora creerò un data frame completamente nuovo invece di alterare i nomi delle colonne sul mio data frame originale ed eseguirò clean_names () di janitor sui dati originali. Quindi, controlla i nomi delle colonne del frame di dati con names():

citytable_cleaned <- janitor :: clean_names (citytable)

nomi (citytable_cleaned)

Gli spazi sono stati modificati in trattini bassi, che sono legali nei nomi delle variabili R (così come i punti). Inoltre, tutti i nomi di colonna che prima iniziavano con un numero ora hanno un xall'inizio.

Se non si vuole perdere la memoria da avere due copie della sostanza, gli stessi dati, è possibile rimuovere un oggetto R dalla sessione di lavoro con la  rm()funzione di: rm(citytable).

Importa dati dai pacchetti

Esistono diversi pacchetti che ti consentono di accedere ai dati direttamente da R. Uno è quantmod, che ti consente di estrarre alcuni dati finanziari e del governo degli Stati Uniti direttamente in R.

Un altro è il pacchetto weatherdata dal nome appropriato su CRAN. Può estrarre dati dall'API Weather Underground, che contiene informazioni per molti paesi in tutto il mondo. 

Il pacchetto rnoaa, un progetto del gruppo rOpenSci, attinge a diversi set di dati dell'amministrazione nazionale oceanica e atmosferica degli Stati Uniti, tra cui informazioni giornaliere su clima, boe e tempeste.

If you are interested in state or local government data in the US or Canada, you may want to check out RSocrata to see if an agency you’re interested in posts data there. I’ve yet to find a complete list of all available Socrata data sets, but there’s a search page at //www.opendatanetwork.com. Be careful, though: There are community-uploaded sets along with official government data, so check a data set’s owner and upload source before relying on it for more than R practice. “ODN Dataset” in a result means it’s a file uploaded by someone in the general public. Official government data sets tend to live at URLs like //data.CityOrStateName.gov and //data.CityOrStateName.us.

For more data-import packages, see my searchable chart at //bit.ly/RDataPkgs. If you work with US government data, you might be particularly interested in censusapi and tidycensus, both of which tap into US Census Bureau data. Other useful government data packages include eu.us.opendata from the US and European Union governments to make it easier to compare data in both regions, and cancensus for Canadian census data.

When the data’s not ideally formatted

In all these sample data cases, the data has been not only well-formatted, but ideal: Once I found it, it was perfectly structured for R. What do I mean by that? It was rectangular, with each cell having a single value instead of merged cells. And the first row had column headers, as opposed to, say, a title row in large font across multiple cells in order to look pretty—or no column headers at all.

Dealing with untidy data can, unfortunately, get pretty complicated. But there are a couple of common issues that are easy to fix.

Beginning rows that aren’t part of the data. If you know that the first few rows of an Excel spreadsheeet don’t have data you want, you can tell rio to skip one or more lines. The syntax is rio::import("mySpreadsheet.xlsx", skip=3) to exclude the first three rows. skip takes an integer.

There are no column names in the spreadsheet. The default import assumes the first row of your sheet is the column names. If your data doesn’t have headers, the first row of your data may end up as your column headers. To avoid that, use rio::import("mySpreadsheet.xlsx", col_names = FALSE) so R will generate default headers of X0, X1, X2, and so on. Or, use a syntax such as rio::import("mySpreadsheet.xlsx", col_names = c("City", "State", "Population")) to set your own column names.

If there are multiple tabs in your spreadsheet, the which argument overrides the default of reading in the first worksheet. rio::import("mySpreadsheet.xlsx", which = 2) reads in the second worksheet.

What’s a data frame? And what can you do with one?

rio imports a spreadsheet or CSV file as an R data frame. How do you know whether you’ve got a data frame? In the case of snowdata, class(snowdata) returns the class, or type, of object it is. str(snowdata) also tells you the class and adds a bit more information. Much of the info you see with str() is similar to what you saw for this example in the RStudio environment pane: snowdata has 76 observations (rows) and two variables (columns).

Data frames are somewhat like spreadsheets in that they have columns and rows. However, data frames are more structured. Each column in a data frame is an R vector, which means that every item in a column has to be the same data type. One column can be all numbers and another column can be all strings, but within a column, the data has to be consistent.

If you’ve got a data frame column with the values 5, 7, 4, and “value to come,” R will not simply be unhappy and give you an error. Instead, it will coerce all your values to be the same data type. Because “value to come” can’t be turned into a number, 5, 7, and 4 will end up being turned into character strings of "5", "7", and "4". This isn’t usually what you want, so it’s important to be aware of what type of data is in each column. One stray character string value in a column of 1,000 numbers can turn the whole thing into characters. If you want numbers, make sure you have them!

R does have a ways of referring to missing data that won’t screw up the rest of your columns: NA means “not available.”

I frame di dati sono rettangolari: ogni riga deve avere lo stesso numero di voci (anche se alcune possono essere vuote) e ogni colonna deve avere lo stesso numero di elementi.

Le colonne del foglio di calcolo Excel sono generalmente indicate con lettere: Colonna A, Colonna B, ecc. È possibile fare riferimento a una colonna di frame di dati con il suo nome, utilizzando la sintassi dataFrameName$columnName. Quindi, se digiti snowdata$Totale premi Invio, vedrai tutti i valori nella Totalcolonna, come mostrato nella figura sotto. (Ecco perché quando esegui il str(snowdata)comando, c'è un segno di dollaro prima del nome di ogni colonna.)

Taylor & Francis Group

A reminder that those bracketed numbers at the left of the listing aren’t part of the data; they’re just telling you what position each line of data starts with. [1] means that line starts with the first item in the vector, [10] the tenth, etc.

RStudio tab completion works with data frame column names as well as object and function names. This is pretty useful to make sure you don’t misspell a column name and break your script—and it also saves typing if you’ve got long column names.

Type snowdata$ and wait, then you see a list of all the column names in snowdata.

It’s easy to add a column to a data frame. Currently, the Total column shows winter snowfall in inches. To add a column showing totals in meters, you can use this format:

snowdata$Meters <- snowdata$Total * 0.0254

The name of the new column is on the left, and there’s a formula on the right. In Excel, you might have used =A2 * 0.0254 and then copied the formula down the column. With a script, you don’t have to worry about whether you’ve applied the formula properly to all the values in the column.

Now look at your snowdata object in the Environment tab. It should have a third variable, Meters.

Because snowdata is a data frame, it has certain data-frame properties that you can access from the command line. nrow(snowdata) gives you the numbers of rows and ncol(snowdata) the number of columns. Yes, you can view this in the RStudio environment to see how many observations and variables there are, but there will probably be times when you’ll want to know this as part of a script. colnames(snowdata) or names(snowdata) gives you the name of snowdata columns. rownames(snowdata) give you any row names (if none were set, it will default to character strings of the row number such as "1", "2", "3", etc.).

Some of these special dataframe functions, also known as methods, not only give you information but let you change characteristics of the data frame. So, names(snowdata) tells you the column names in the data frame, but

names(snowdata) <- c("Winter", "SnowInches", "SnowMeters")

changes the column names in the data frame.

You probably won’t need to know all available methods for a data frame object, but if you’re curious, methods(class=class(snowdata)) displays them. To find out more about any method, run the usual help query with a question mark, such as ?merge or ?subset.

When a number’s not really a number

ZIP codes are a good example of “numbers” that shouldn’t really be treated as such. Although technically numeric, it doesn’t make sense to do things like add two ZIP codes together or take an average of ZIP codes in a community. If you import a ZIP-code column, R will likely turn it into a column of numbers. And if you’re dealing with areas in New England where ZIP codes start with 0, the 0 will disappear.

I have a tab-delineated file of Boston ZIP codes by neighborhood, downloaded from a Massachusetts government agency, at //raw.githubusercontent.com/smach/R4JournalismBook/master/data/bostonzips.txt. If I tried to import it with zips <- rio::import("bostonzips.txt"), the ZIP codes would come in as 2118, 2119, etc. and not 02118, 02119, and so on.

This is where it helps to know a little bit about the underlying function that rio’s import() function uses. You can find those underlying functions by reading the import help file at ?import. For pulling in tab-separated files, import uses either fread() from the data.table package or base R’s read.table() function. The ?read.table help says that you can specify column classes with the colClasses argument.

Create a data subdirectory in your current project directory, then download the bostonzips.txt file with

download.file("//raw.githubusercontent.com/smach/R4JournalismBook/master/data/bostonzips.txt", "data/bostonzips.txt")

If you import this file specifying both columns as character strings, the ZIP codes will come in properly formated:

zips <- rio::import("data/bostonzips.txt", colClasses = c("character”", "character")) str(zips)

Note that the column classes have to be set using the c() function, c("character", "character"). If you tried colClasses, "character", you’d get an error message. This is a typical error for R beginners, but it shouldn’t take long to get into the c() habit.

A save-yourself-some-typing tip: Writing out c("character", "character") isn’t all that arduous; but if you’ve got a spreadsheet with 16 columns where the first 14 need to be character strings, this can get annoying. R’s rep() function can help. rep(), as you might have guessed, repeats whatever item you give it however many times you tell it to, using the format rep(myitem, numtimes). rep("character", 2) is the same as c("character", "character"), so colClasses = rep("character", 2) is equivalent to colClasses = c("character", "character") . And, colClasses = c(rep("character", 14), rep("numeric", 2)) sets the first 14 columns as character strings and the last two as numbers. All the names of column classes here need to be in quotation marks because names are character strings.

I suggest you play around a little with rep() so you get used to the format, since it’s a syntax that other R functions use, too.

Easy sample data

R comes with some built-in data sets that are easy to use if you want to play around with new functions or other programming techniques. They’re also used a lot by people teaching R, since instructors can be sure that all students are starting off with the same data in exactly the same format.

Type data() to see available built-in data sets in base R and whatever installed packages are currently loaded. data(package = .packages(all.available = TRUE)) from base R displays all possible data sets from packages that are installed in your system, whether or not they’re loaded into memory in your current working session.

You can get more information about a data set the same way you get help with functions: ?datasetname or help("datasetname"). mtcars and iris are among those I’ve seen used very often.

If you type mtcars, the entire mtcars data set prints out in your console. You can use the head() function to look at the first few rows with head(mtcars).

You can store that data set in another variable if you want, with a format like cardata <- mtcars.

Or, running the data function with the data set name, such as data(mtcars), loads the data set into your working environment.

One of the most interesting packages with sample data sets for journalists is the fivethirtyeight package, which has data from stories published on the FiveThirtyEight.com website. The package was created by several academics in consultation with FiveThirtyEight editors; it is designed to be a resource for teaching undergraduate statistics.

Prepackaged data can be useful—and in some cases fun. In the real world, though, you may not be using data that’s quite so conveniently packaged.

Create a data frame manually in R

Chances are, you’ll often be dealing with data that starts off outside of R and you import from a spreadsheet, CSV file, API, or other source. But sometimes you might just want to type a small amount of data directly into R, or otherwise create a data frame manually. So let’s take a quick look at how that works.

R data frames are assembled column by column by default, not one row at a time. If you wanted to assemble a quick data frame of town election results, you could create a vector of candidate names, a second vector with their party affiliation, and then a vector of their vote totals:

candidates <- c("Smith", "Jones", "Write-ins", "Blanks")

party <- c("Democrat", "Republican", "", "")

votes <- c(15248, 16723, 230, 5234)

Remember not to use commas in your numbers, like you might do in Excel.

To create a data frame from those columns, use the data.frame() function and the synatx data.frame(column1, column2, column3).

myresults <- data.frame(candidates, party, votes)

Check its structure with str():

str(myresults)

While the candidates and party vectors are characters, the candidates and party data frame columns have been turned into a class of R objects called factors. It’s a bit too in-the-weeds at this point to delve into how factors are different from characters, except to say that

  1. Factors can be useful if you want to order items in a certain, nonalphabetical way for graphing and other purposes, such as Poor is less than Fair is less than Good is less than Excellent.
  2. Factors can behave differently than you might expect at times. I recommend sticking with character strings unless you have a good reason to specifically want factors.

You can keep your character strings intact when creating data frames by adding the argument stringsAsFactors = FALSE:

myresults <- data.frame(candidates, party, votes, stringsAsFactors = FALSE) str(myresults)

Now, the values are what you expected.

There’s one more thing I need to warn you about when creating data frames this way: If one column is shorter than the other(s), R will sometimes repeat data from the shorter column—whether or not you want that to happen.

Say, for example, you created the election results columns for candidates and party but only entered votes results for Smith and Jones, not for Write-ins and Blanks. You might expect the data frame would show the other two entries as blank, but you’d be wrong. Try it and see, by creating a new votes vector with just two numbers, and using that new votes vector to create another data frame:

votes <- c(15248, 16723)

myresults2 <- data.frame(candidates, party, votes)

str(myresults2)

That’s right, R reused the first two numbers, which is definitely not what you’d want. If you try this with three numbers in the votes vector instead of two or four, R would throw an error. That’s because each entry couldn’t be recycled the same number of times.

If by now you’re thinking, “Why can’t I create data frames that don’t change strings into factors automatically? And why do I have to worry about data frames reusing one column’s data if I forget to complete all the data?” Hadley Wickham had the same thought. His tibble package creates an R class, also called tibble, that he says is a “modern take on data frames. They keep the features that have stood the test of time, and drop the features that used to be convenient but are now frustrating.”

If this appeals to you, install the tibble package if it’s not on your system and then try to create a tibble with

myresults3 <- tibble::tibble(candidates, party, votes)

and you’ll get an error message that the votes column needs to be either 4four items long or one item long (tibble() will repeat a single item as many times as needed, but only for one item).

Put the votes column back to four entries if you’d like to create a tibble with this data:

library(tibble)

votes <- c(15248, 16723, 230, 5234)

myresults3 <- tibble(candidates, party, votes)

str(myresults3)

It looks similar to a data frame—in fact, it is a data frame, but with some special behaviors, such as how it prints. Also notice that the candidates column is character strings, not factors.

If you like this behavior, go ahead and use tibbles. However, given how prevelant conventional data frames remain in R, it’s still important to know about their default behaviors.

Exporting data

Often after you’ve wrangled your data in R, you want to save your results. Here are some of the ways to export your data that I tend to use most:

Save to a CSV file with rio::export(myObjectName, file="myFileName.csv") and to an Excel file with rio::export(myObjectName, file="myFileName.xlsx"). rio understands what file format you want based on the extension of the file name. There are several other available formats, including .tsv for tab-separated data, .json for JSON, and .xml for XML.

Save to an R binary object that makes it easy to load back into R in future sessions. There are two options.

Generic save() saves one or more objects into a file, such as save(objectName1, objectName2, file="myfilename.RData"). To read this data back into R, you just use the command load("myfilename.RData") and all the objects return with the same names in the same state they had before.

You can also save a single object into a file with saveRDS(myobject, file="filename.rds"). The logical assumption is that loadRDS would read the file back in, but instead the command is readRDS—and in this case, just the data has been stored, not the object name. So, you need to read the data into a new object name, such as mydata <- readRDS("filename.rds").

There’s a third way of saving an R object specifically for R: generating the R commands that would recreate the object instead of the object with final results. The base R functions for generating an R file to recreate an object are dput() or dump(). However, I find rio::export(myobject, "mysavedfile.R") even easier to remember.

Finally, there are additional ways to save files that optimize for readability, speed, or compression, which I mention in the additional resources section at the end of this article.

You can also export an R object into your Windows or Mac clipboard with rio: rio::export(myObjectName, format). And, you can import data into R from your clipboard the same way: rio::import(file).

Bonus: rio’s convert() function lets you—you guessed it—convert one file type to another without having to manually pull the data into and then out of R. See ?convert for more info.

Final point: RStudio lets you click to import a file, without having to write code at all. This isn’t something I recommend until you’re comfortable importing from the command line, beause I think it’s important to understand the code behind importing. But, I admit this can be a handy shortcut.

In the Files tab of RStudio’s lower right pane, navigate to the file you want to import and click it. You’ll see an option to either View File or Import Dataset. Choose Import Dataset to see a dialog that previews the data, lets you modify how the data is imported, and previews the code that will be generated.

Make whatever changes you want and click Import, and your data will be pulled into R.

Additional resources

rio alternatives. While rio is a great Swiss Army knife of file handling, there may be times when you want a bit more control over how your data is pulled into or saved out of R. In addition, there have been times when I’ve had a challenging data file that rio choked on but another package could handle it. Some other functions and packages you may want to explore:

  • Base R’s read.csv() and read.table() to import text files (use ?read.csv and ?read.table to get more information). stringsAsFactors = FALSE is needed with these if you want to keep your character strings as character strings. write.csv() saves to CSV.
  • rio uses Hadley Wickham’s readxl package for reading Excel files. Another alternative for Excel is openxlsx, which can write to an Excel file as well as read one. Look at the openxlsx package vignettes for information about formatting your spreadsheets as you export.
  • Wickham’s readr package is also worth a look as part of the “tidyverse.” readr includes functions to read CSV, tab-separated, fixed-width, web logs, and several other types of files. readr prints out the type of data it has determined for each column—integer, character, double (non-whole numbers), etc. It creates tibbles.

Import directly from a Google spreadsheet. The googlesheets package lets you import data from a Google Sheets spreadsheet, even if it’s private, by authenticating your Google account. The package is available on CRAN; install it via install.packages("googlesheets"). After loading it with library("googlesheets"), read the excellent introductory vignette. At the time of this writing, the intro vignette was available in R at vignette("basic-usage", package="googlesheets"). If you don’t see it, try help(package="googlesheets") and click the User Guides, Package Vignettes and Other Documentation link for available vignettes, or look at the package information on GitHub at //github.com/jennybc/googlesheets.

Scrape data from Web pages with the rvest package and SelectorGadget browser extension or JavaScript bookmarklet. SelectorGadget helps you discover the CSS elements of data you want to copy that are on an HTML page; then rvest uses R to find and save that data. This is not a technique for raw beginners, but once you’ve got some R experience under your belt, you may want to come back and revisit this. I have some instructions and a video on how to do this at //bit.ly/Rscraping. RStudio has a webinar available on demand as well.

Alternatives to base R’s save and read functions. If you are working with large data sets, speed may become important to you when saving and loading files. The data.table package has a speedy fread() function, but beware that resulting objects are data.tables and not plain data frames; some behaviors are different. If you want a conventional data frame, you can get one with the as.data.frame(mydatatable) syntax. The data.table package’s fwrite() function is aimed at writing to a CSV file considerably faster than base R’s write.csv().

Altri due pacchetti potrebbero essere di interesse per la memorizzazione e il recupero dei dati. Il pacchetto piuma salva in un formato binario che può essere letto sia in R che in Python. Inoltre, il primo pacchetto read.fst()e write.fst()offre un rapido salvataggio e caricamento di oggetti frame di dati R, oltre all'opzione di compressione dei file.